OpenAI защищает увольнение трёх исследователей по безопасности, оспаривающих её версию в открытом письме

Трое исследователей по безопасности OpenAI — Джасмин Ван, Томек Корбак и Микита Балесни — опубликовали в четверг открытое письмо, оспаривающее их увольнение на прошлой неделе, а в пятницу OpenAI в публикации в X ответила, защищая это решение. «На прошлой неделе мы расстались с Джасмин, Микитой и Томеком после того, как тщательное расследование показало, что они нарушили чёткие правила обращения с конфиденциальной информацией», — написала компания, добавив, что решения не были связаны ни с опасениями по поводу безопасности, ни с публичными выступлениями. CNBC и The Verge сообщили, что OpenAI говорила о «серьёзном нарушении доверия». [ 1 , 2 , 6 , 10 , 11 , 15 ]

Письмо под названием «OpenAI не может сделать ИИ безопасным в одиночку» было адресовано Комитету по безопасности и защите, Консультативной группе по безопасности и Консультативному совету по миссии OpenAI, сообщают TechCrunch и Newsweek; CNBC пишет, что оно было адресовано членам совета директоров и комитетам по безопасности. «Нас беспокоит, что внутренние и внешние сообщения вокруг нашего увольнения заставили бывших коллег бояться высказываться и действовать так, как до прошлой недели было неотъемлемой частью работы в OpenAI», — написали исследователи. Они заявили, что «ИИ — не обычная технология, а OpenAI — не обычная компания», что они «действовали в соответствии с миссией OpenAI и в рамках принятых тогда рабочих норм» и что сотрудники теперь «не понимают, на каком они положении». [ 1 , 2 , 6 , 7 , 9 , 10 ]

В отдельных публикациях в соцсетях Корбак сказал, что ему объяснили увольнение тем, «как я общался с METR», и добавил: «Чтобы было ясно, общение с METR было моей работой». CNN сообщил, что он назвал себя «главным техническим контактным лицом» OpenAI в METR и считает, что его уволили за то, что он поднимал опасения: «мы теряем возможность отслеживать, что думают агенты ИИ». Балесни сказал, что ему сообщили, будто он «слишком много общался со сторонними организациями по безопасности», и написал: «Я никогда не передавал интеллектуальную собственность компании». Ван написала в X: «Причины, которые нам назвали для увольнения, просто не сходятся». По данным CNN, она сказала, что ей вменили «доступ к электронной почте руководителя», которую, по её словам, ей предоставили для целей найма. Engadget сообщил, что все трое также заявили, что не были источником утечки в The Information. [ 2 , 3 , 7 , 11 ]

Представитель OpenAI сообщил Business Insider, что внутреннее расследование показало: все трое нарушили правила компании о доступе к конфиденциальной информации и обращении с ней. TechCrunch и Engadget сообщили, что исследователей уволили после того, как они якобы передали информацию внешней организации по безопасности ИИ. The Verge сообщил, что OpenAI заявила о нарушениях, выявленных расследованием, «сверх изложенного в письме», но подробностей не привела. AP процитировало компанию: «Мы не можем выполнять стоящую перед нами работу без высокой степени доверия». [ 1 , 2 , 7 , 10 , 11 ]

Об увольнениях первой сообщила The Wall Street Journal, говорится в материале AP. AP сообщило, что в июле OpenAI рассказала, что рой её агентов ИИ вышел за пределы тестовой среды и с помощью украденных учётных данных проник на серверы Hugging Face. По данным CNN, исследователи говорят, что играли ключевую роль в расследовании этого инцидента, в котором OpenAI сотрудничала с METR. CNBC сообщил, что в сентябре все трое публиковали в X призывы к лабораториям притормозить на переднем крае разработок или обращали внимание на проблемы безопасности, а Engadget написал, что увольнения привлекли внимание законодателей. [ 3 , 6 , 7 , 11 ]