OpenAI усиливает безопасность после инцидента в Канаде

Правительство Канады сообщает о достижении договорённости с генеральным директором OpenAI Сэмом Олтманом о немедленном усилении протоколов безопасности. Решение последовало после инцидента со стрельбой в школе, когда система компании идентифицировала и заблокировала подозреваемого, но не уведомила правоохранительные органы.

Основные изменения касаются взаимодействия с полицией. Согласно новым обязательствам, OpenAI будет сообщать властям о потенциально подозрительном использовании ChatGPT. Официального подтверждения от компании пока не поступало, однако канадский министр по вопросам искусственного интеллекта Эван Соломон заявил, что «попросил OpenAI предпринять ряд действий, на которые Олтман согласился».

В ходе виртуальной встречи обсуждалось включение канадских экспертов в области приватности, психического здоровья и правоприменения в процесс выявления и анализа случаев повышенного риска, связанных с пользователями из Канады. OpenAI обязалась предоставить отчёт, детализирующий новые процедуры.

Министр также запросил применение новых правил ретроспективно, с анализом предыдущих подозрительных инцидентов на платформе и предоставлением данных правоохранителям при необходимости. Согласилась ли компания на эту часть условий, остаётся неизвестным.

Это не первая инициатива компании по нормализации отношений с Канадой. Энн О’Лири, вице-президент OpenAI по глобальной политике, ранее указывала на доработку систем обнаружения для более эффективного предотвращения возврата заблокированных пользователей. Подозреваемый в стрельбе изначально был заблокирован за «потенциальные предупреждения о совершении насилия в реальном мире», но смог создать новый аккаунт.