Правительство Канады готово регулировать чат-боты на основе искусственного интеллекта, если технологические компании не смогут продемонстрировать, что они адекватно защищают канадских пользователей.
Министр по вопросам искусственного интеллекта Эван Соломон сделал это предупреждение после того, как, по его утверждению, «провал» OpenAI привёл к тому, что не было сообщено о 18-летнем канадском пользователе, который совершил массовую стрельбу в школе в Британской Колумбии.
По словам источников, знакомых с делом, в июне прошлого года Джесси Ван Рутселар в течение нескольких дней описывал сценарии вооружённого насилия, используя ChatGPT. Его сообщения были отмечены автоматизированной системой проверки, что вызвало обеспокоенность у сотрудников OpenAI. Около дюжины сотрудников компании обсуждали, следует ли предпринять какие-либо действия в отношении постов Ван Рутселара. Некоторые сотрудники интерпретировали его записи как намёки на возможность реального физического насилия и призывали руководство уведомить канадские власти. Однако руководство OpenAI в конечном итоге решило не связываться с властями.
«Очевидно, произошло упущение. Это ужасная трагедия. Мы глубоко потрясены сообщениями о том, что существовала возможность сообщить об этом деле правоохранительным органам. Мы хотим быть уверенными, что если у какой-либо компании есть такая возможность, она ею воспользуется», — заявил Соломон. Руководитель по политике OpenAI Чан Парк и шесть других представителей компании встретились с представителями правительства во вторник в Оттаве. Позднее министры назвали эту встречу «разочаровывающей».
Министр юстиции Шон Фрейзер заявил, что ожидает от OpenAI принятия существенных мер безопасности. «Если эти меры не будут приняты в очень короткие сроки, правительство предпримет шаги», — сказал он. «Доверие нужно заслужить. Мы действительно должны увидеть, какие изменения ожидаются от компании».
OpenAI заявила, что усилила свои меры безопасности и изменила свои правила относительно того, когда следует уведомлять полицию о случаях, связанных с насильственными действиями.
«В то же время министры подчеркнули, что канадцы ожидают дальнейших конкретных шагов — и это сообщение было нами чётко и ясно понято. Мы обязались предоставить информацию о дальнейших мерах в ближайшие дни, продолжая поддерживать правоохранительные органы и сотрудничать с правительством для повышения безопасности искусственного интеллекта».
10 февраля 18-летний Джесси Ван Рутселар открыл огонь в школе в городе Тамблер-Ридж, провинция Британская Колумбия, убив восемь человек. Полиция сообщила, что Джесси Ван Рутселар был найден мёртвым на месте происшествия, совершив самоубийство. Ван Рутселар был известен местной полиции до стрельбы. Власти неоднократно посещали его по месту жительства в связи с вопросами психического здоровья и временно изымали оружие из его дома.
