OpenAI отстаивает увольнение трёх специалистов по безопасности, предупреждающих о «сковывающем эффекте»

OpenAI уволила трёх специалистов по безопасности ИИ, Mikita Balesni, Tomek Korbak и Jasmine Wang, заявив, что внутреннее расследование установило нарушение ими правил обращения с конфиденциальной информацией. CLS и IT Home сообщили, что увольнения состоялись на прошлой неделе. 9 октября трое опубликовали открытое письмо, в котором предупредили, что увольнения могут оказать «сковывающий эффект» на культуру OpenAI, сообщил IT Home. [ 1 , 2 , 3 , 4 , 5 ]

Письмо под названием «OpenAI не может в одиночку обеспечить безопасность ИИ» было опубликовано в социальных сетях Balesni и адресовано комитетам OpenAI по безопасности, сообщает IT Home. В нём говорится, что OpenAI — «не обычная компания» и что возможность сотрудников работать с внешними организациями по вопросам безопасности — важная часть её культуры. Трое написали, что внезапные увольнения и столь поспешные уведомления внесли сковывающий эффект в открытую культуру, которой OpenAI когда-то гордилась. Они рекомендовали допустить в компанию сторонних аудиторов безопасности, обеспечить эффективный мониторинг передовых моделей ИИ и поддерживать открытый и прозрачный обмен между специалистами по безопасности и другими участниками отрасли. [ 1 ]

Yicai и 36Kr сообщили, что, по заявлению OpenAI, проблемы, выявленные расследованием, выходят за рамки раскрытого тремя сотрудниками в письме, и поэтому компания остаётся при своём решении. Компания заявила, что решение не было направлено против их опасений по поводу безопасности ИИ или несогласия и что внутренние дискуссии о безопасности поощряются. Она заявила, что завершает подготовку соглашений со сторонними организациями по оценке безопасности и опубликует подробности в ближайшие недели. IT Home сообщил, что один из глав исследовательских направлений OpenAI в внутренней записке решительно поддержал три рекомендации и написал, что увольнения не связаны с поднятием вопросов безопасности или публичными высказываниями: «Мы не будем увольнять сотрудников за то, что они выражают обеспокоенность». [ 1 , 4 , 5 ]

В социальных сетях трое заявили, что причины увольнения им сообщили только устно и что их действия входили в их должностные обязанности. По данным Huxiu, контактному лицу по связи с внешним оценщиком METR, Korbak, сообщили, что способ его общения с METR был неверным; о Balesni сказали, что с ним слишком много общались сторонние организации по безопасности; а Wang вменили в вину ошибочный переход по ссылке в письме руководителя. IT Home характеризует METR как некоммерческую организацию, оценивающую модели ИИ и связанные с ними риски безопасности. В записи Korbak говорится об опасении, что OpenAI использует увольнения как «предлог» для сокращения сотрудничества с METR. [ 1 , 2 ]

Huxiu сообщил, что Neel Nanda, глава направления интерпретируемости в Google DeepMind, назвал увольнения необоснованными и признаком нездоровой корпоративной культуры, а Kelsey Piper из журналистского сообщества заявила, что этот случай ограничит будущее общение в сфере аудита. По словам Balesni, сотрудники теперь боятся говорить и даже опасаются проверки личных телефонов. Huxiu датировал письмо началом октября 2024 года, тогда как IT Home сообщил, что оно опубликовано 9 октября. [ 1 , 2 ]