OpenAI уволила троих сотрудников после инцидентов с конфиденциальными данными

OpenAI уволила троих сотрудников, связанных с безопасностью и согласованием поведения искусственного интеллекта (alignment), после внутреннего расследования обращения с конфиденциальной корпоративной информацией.

Об увольнении первой сообщила The Wall Street Journal. Затем информацию подтвердила сама OpenAI: компания заявила, что расследование выявило нарушения установленных процедур доступа к чувствительной информации и работы с ней.

По данным The Information, один из уволенных работал непосредственно над безопасностью ИИ, второй — над alignment, а третий был менеджером исследовательских программ в этом направлении. В OpenAI заявили, что речь шла не о единичном случае, а о ряде нарушений правил обращения с исследовательской информацией.

Человек, знакомый с обстоятельствами дела, сообщил медиа, что один из эпизодов касался передачи чувствительной информации сторонней организации, занимающейся независимым оцениванием систем искусственного интеллекта. Название этой организации OpenAI не раскрыла.

По данным WSJ, речь идет о Жасмин Ван, Томеке Корбаке и Миките Балесни. Сама OpenAI публично не называла уволенных сотрудников. Все трое в последнее время работали или были связаны с вопросами безопасности и рисков, связанных с развитием мощных моделей ИИ.

В то же время сам факт взаимодействия OpenAI с внешними организациями, тестирующими безопасность моделей, не является необычным. Компания и другие разработчики ИИ привлекают независимых специалистов для оценки рисков. Однако доступ таких команд к внутренним материалам регулируется отдельными процедурами и ограничениями.

Увольнения произошли на фоне усиленного внимания к безопасности продуктов OpenAI. В последние месяцы компания публиковала результаты расследований инцидентов с поведением автономных ИИ-агентов и усиливала внутренние процедуры контроля за потенциально опасными возможностями моделей. 

По материалам: The Wall Street Journal, The Information