Axios: руководители OpenAI и Anthropic прорабатывают меры на случай возможного катастрофического инцидента с ИИ
Коротко
Руководители OpenAI, Anthropic и других компаний в сфере ИИ прорабатывают, как отреагируют общество и власти на катастрофический инцидент, связанный с ИИ, например на кибератаку, которая нарушит работу банков, интернета или электро- и водоснабжения, сообщил Axios. Некоторые представители отрасли сказали Axios, что такой инцидент может произойти в течение 6–12 месяцев. OpenAI подтвердила, что проводит учения по готовности, но заявила, что не считает эти сценарии неизбежными; Anthropic отказалась от комментариев.
Читать полностью 2 мин чтения
Руководители OpenAI, Anthropic и других компаний в сфере искусственного интеллекта прорабатывают сценарии того, как отреагируют общество и власти на катастрофический инцидент, связанный с ИИ, сообщил Axios со ссылкой на отраслевые источники. «Ведомости» со ссылкой на Axios написали, что глава OpenAI Сэм Олтман и глава Anthropic Дарио Амодеи считают крупный кибер-инцидент серьёзным риском для отрасли. [ 1 , 2 , 3 , 4 , 5 ]
Чаще всего приводится сценарий крупной кибератаки, способной нарушить работу финансовых сервисов, интернета и даже электро- и водоснабжения. Meduza писала, что, возникнет ли такой инцидент из-за ИИ-агентов, вышедших из тестовой среды, или из-за действий злоумышленников, он усилит недоверие к технологии и её разработчикам. Некоторые представители отрасли сказали Axios, что крупный инцидент может произойти в ближайшие 6–12 месяцев; iXBT отметил, что это оценка потенциальных рисков, а не подтверждённый прогноз. [ 1 , 2 , 5 ]
По данным Axios, многие ведущие исследователи ИИ и руководители компаний считают крупный инцидент, связанный с ИИ, неизбежным. «Коммерсантъ» добавил, что потенциальные катастрофы анализируют не только компании, но и государственные ведомства, включая Пентагон. Разработчики опасаются гнева общества против технологических компаний, их руководителей и президента Дональда Трампа. «Коммерсантъ» написал, что Трамп не хочет регулировать отрасль, «Ведомости» указали на отсутствие жёсткого государственного регулирования, а iXBT сослался на подход его администрации к регулированию отрасли. [ 1 , 2 , 3 , 5 ]
OpenAI подтвердила, что проводит учения по готовности, на которых команды обсуждают и прорабатывают ряд потенциальных сценариев, и подчеркнула, что не считает их неизбежными. Anthropic отказалась от комментариев Axios. [ 2 , 3 , 5 ]
Meduza сообщила, что работа с Конгрессом США — ключевое направление планирования. После промежуточных выборов 3 ноября демократы, выступающие за более жёсткое регулирование ИИ, чем республиканцы, могут укрепить свои позиции; среди их самых радикальных идей — запрет на создание суперинтеллекта и приостановка разработки передовых моделей. Механизм экстренного отключения передовых систем ИИ популярен среди представителей обеих партий, а по словам «Ведомостей», и среди части бизнеса, хотя Meduza сообщила, что эксперты сомневаются, что системы ИИ можно полностью отключить. [ 1 , 3 ]
В качестве примера угрозы iXBT назвал приведённую Axios предполагаемую кибератаку на южнокорейские финансовые организации, в которой злоумышленник из Китая, как сообщалось, использовал инструменты ИИ, в том числе модели DeepSeek, чтобы похитить данные десятков тысяч клиентов банков, и, по данным CrowdStrike, просил Claude Code помочь найти, где продать эти данные. «Ведомости» напомнили, что The Wall Street Journal 7 октября сообщила, что хакеры с помощью ИИ-агентов атаковали не менее семи южнокорейских финансовых компаний и получили доступ к персональным данным 68 000 человек. Следователи обнаружили признаки китайского инструмента кибербезопасности Artex AI, Национальное полицейское агентство Южной Кореи начало расследование, а нападавшие не установлены, сообщили «Ведомости». [ 2 , 3 ]
Почему это важно
По данным изданий, компании опасаются, что крупный инцидент подорвёт доверие к технологии и обратит гнев общества против разработчиков ИИ и президента США Дональда Трампа. Meduza и «Ведомости» со ссылкой на Axios сообщили, что демократы в Конгрессе могут добиваться более жёстких ограничений для передового ИИ вплоть до запрета суперинтеллекта, а механизм экстренного отключения таких систем поддерживают обе партии.
Ключевые факты
- Axios сообщил, что руководители Anthropic, OpenAI и других компаний в сфере ИИ прорабатывают сценарии катастрофического инцидента, связанного с ИИ, а также реакцию общества и властей на него. [ 1 , 2 , 4 , 5 ]
- Основной приводимый сценарий — крупная кибератака, способная нарушить работу финансовых сервисов, интернета или энергосистем. [ 1 , 2 , 3 , 5 ]
- Некоторые представители отрасли сказали Axios, что крупный инцидент может произойти в ближайшие 6–12 месяцев. [ 1 , 2 ]
- OpenAI подтвердила, что проводит учения по готовности, на которых команды рассматривают ряд сценариев, и заявила, что не считает их неизбежными. [ 2 , 3 , 5 ]
- Anthropic отказалась от комментариев Axios. [ 2 , 5 ]
- «Ведомости» со ссылкой на Axios сообщили, что глава OpenAI Сэм Олтман и глава Anthropic Дарио Амодеи считают крупный кибер-инцидент серьёзным риском для отрасли. [ 3 ]
- По данным Axios, механизм экстренного отключения передовых систем ИИ поддерживают представители обеих партий США. [ 1 , 3 ]
Подтверждено несколькими источниками
- Руководители OpenAI и Anthropic прорабатывают сценарии крупного кризиса, связанного с ИИ, сообщил Axios. [ 1 , 2 , 3 , 4 , 5 ]
- Согласно описанным сценариям, крупная кибератака может нарушить работу банков или финансовых сервисов, интернета и энергосистем. [ 1 , 2 , 3 , 5 ]
- Некоторые представители отрасли сказали Axios, что серьёзный инцидент может произойти в течение 6–12 месяцев. [ 1 , 2 ]
- OpenAI подтвердила, что проводит учения по готовности, и заявила, что не считает эти сценарии неизбежными. [ 2 , 3 , 5 ]
- Anthropic отказалась от комментариев. [ 2 , 5 ]
- Компании опасаются гнева общества, направленного против разработчиков ИИ и против президента Дональда Трампа или его администрации из-за её подхода к регулированию. [ 2 , 3 , 5 ]
- По данным Axios, демократы в Конгрессе могут добиваться ограничений для передового ИИ вплоть до запрета суперинтеллекта, а механизм экстренного отключения поддерживают обе партии. [ 1 , 3 ]
- Многие ведущие исследователи ИИ и руководители компаний считают крупный инцидент, связанный с ИИ, неизбежным, написал Axios. [ 1 , 5 ]
Пока неясно
- Кто осуществил кибератаку на южнокорейские финансовые компании, приведённую в качестве примера. iXBT пишет, что за ней, как сообщалось, стоял злоумышленник из Китая, а «Ведомости» сообщают, что власти Южной Кореи пока не установили, кто атаковал.
- Произойдёт ли крупный инцидент в течение 6–12 месяцев. Это оценка некоторых представителей отрасли; iXBT называет её оценкой потенциальных рисков, а не подтверждённым прогнозом, а OpenAI заявила, что не считает эти сценарии неизбежными.
- Собственное планирование Anthropic. Anthropic отказалась от комментариев, поэтому подробности её подготовки известны только из источников Axios.
- Можно ли полностью отключить системы ИИ. Meduza сообщает, что эксперты сомневаются, что системы ИИ можно полностью отключить, хотя механизм экстренного отключения обсуждается.
Что пишут местные СМИ
Хронология, местное время
- Meduza со ссылкой на Axios сообщает, что Anthropic, OpenAI и другие компании в сфере ИИ готовятся к возможному катастрофическому инциденту с ИИ. [ 1 ]
- iXBT публикует свой материал, включая подтверждение OpenAI проведения учений и отказ Anthropic от комментариев. [ 2 ]
- «Ведомости» пересказывают материал Axios, называют Сэма Олтмана и Дарио Амодеи и напоминают о сообщавшейся атаке на южнокорейские банки с помощью ИИ. [ 3 ]
- РБК публикует свой материал о подготовке компаний. [ 4 ]
- «Коммерсантъ» пересказывает материал, добавляя, что потенциальные катастрофы анализируют и государственные ведомства, включая Пентагон. [ 5 ]