Глава OpenAI Альтман заявил, что польза ИИ оправдывает риски, и предупредил о чрезмерном регулировании
Коротко
Сэм Альтман, глава OpenAI, разрабатывающей ChatGPT, заявил, что польза искусственного интеллекта оправдывает связанные с ним риски и негативные события, сообщают RBC, ТАСС и РИА Новости со ссылкой на интервью Politico. Он сказал, что не готов принять «действительно катастрофические риски», включая возможность потери контроля над ИИ. Более полный отчет отраслевого издания добавляет, что Альтман хочет, чтобы ИИ оставался широкодоступным, и противопоставляет позицию OpenAI более строгому подходу Anthropic к регулированию.
Читать полностью 2 мин чтения
Сэм Альтман, глава OpenAI, которая разрабатывает чат-бот ChatGPT, заявил, что польза искусственного интеллекта оправдывает связанные с ним риски и происходящие негативные события, сообщают RBC, ТАСС и РИА Новости. RBC и ТАСС связали эти заявления с интервью Politico; RBC назвало Альтмана во втором материале после того, как сначала называло его только главой OpenAI, а первый материал РИА Новости содержал заголовочное заявление о том, что польза использования ИИ оправдывает риски. [ 1 , 2 , 3 , 4 ]
Альтман заявил, что не готов принять «действительно катастрофические риски», сообщили ТАСС и RBC. RBC сообщило, что он назвал катастрофические риски, включая серьезную потерю контроля над искусственным интеллектом, «неприемлемыми». [ 1 , 3 ]
Отраслевое издание 3DNews, опубликовавшее более полный отчет, сообщило, что Альтман заявил, что ИИ должен оставаться широкодоступным для публики, и что это является фундаментальным различием между OpenAI и ее конкурентом Anthropic, который занимает более строгий подход к регулированию разработки ИИ-систем. Альтман сказал Politico: «Мы считаем, что миру придется смириться с тем, что некоторые плохие вещи будут происходить, ради развития этой технологии и чтобы дать людям возможность принимать решения самостоятельно», — сообщило 3DNews. Он назвал совершенно «неприемлемым компромиссом» согласие на предложение, по которому одна компания работала бы над ИИ, контролировала его внедрение и решала, кто получит от него выгоду, сообщило издание. [ 6 ]
3DNews также сообщило, что Anthropic долгое время считалась самым решительным сторонником регулирования ИИ в отрасли, но разногласия между двумя ведущими компаниями ослабли за последние месяцы, поскольку OpenAI поддержала более строгие ограничения после громких инцидентов со взломами и мошенническим поведением ее моделей. Оно сообщило, что Альтман согласился с призывом главы Anthropic Дарио Амодеи замедлить разработку наиболее продвинутых ИИ-моделей, что OpenAI вслед за Anthropic одобрила новые законы Калифорнии, устанавливающие более строгие требования к безопасности ИИ, и что лоббисты OpenAI недавно поддержали предложение Палаты представителей США, обязывающее ведущие ИИ-компании привлекать внешних оценщиков безопасности. [ 6 ]
Позднее РИА Новости опубликовало второй материал, в котором говорится, что глава OpenAI предупредил о последствиях чрезмерного надзора за ИИ. В доступном нам документе содержался только этот заголовок, без текста статьи или резюме. [ 5 ]
В освещении рисков фигурировали взломы и мошенничество: RBC сообщило, что Альтман считает пользу ИИ оправданием некоторых рисков, включая взломы и мошенничество, а 3DNews процитировало его слова о том, что он не будет обещать, что не будет серьезных взломов, злоупотребления технологией и мошенничества. В документах не говорится, когда и где были сделаны эти заявления. [ 1 , 6 ]
Почему это важно
Заявления исходят от главы одного из самых заметных разработчиков ИИ, чьи позиции широко воспринимаются как сигнал о том, как отрасль формулирует компромиссы при внедрении технологии. Дополнительные материалы показывают, что OpenAI позиционирует себя между призывами к более жесткому регулированию и предупреждениями о том, что чрезмерный надзор влечет издержки. В документах не указывается ни на какое политическое решение или регуляторное последствие в России или где-либо еще.
Ключевые факты
- Сэм Альтман является главой OpenAI, которая разрабатывает чат-бот ChatGPT. [ 2 ]
- Альтман заявил, что польза искусственного интеллекта оправдывает риски, на которые приходится идти, и происходящие негативные события, сообщает Politico. [ 1 , 2 , 3 , 4 ]
- Он сказал, что не готов принять «действительно катастрофические риски», включая возможность потери контроля над ИИ. [ 1 , 3 ]
- RBC сообщило, что он назвал катастрофические риски, такие как серьезная потеря контроля над искусственным интеллектом, «неприемлемыми». [ 1 ]
- 3DNews сообщило, что Альтман заявил, что ИИ должен оставаться широкодоступным, и что это является фундаментальным различием между OpenAI и конкурентом Anthropic, который занимает более строгий подход к регулированию разработки ИИ. [ 6 ]
- 3DNews сообщило, что Альтман согласился с призывом главы Anthropic Дарио Амодеи замедлить разработку наиболее продвинутых ИИ-моделей, а также что OpenAI поддержала новые законы Калифорнии с более строгими требованиями к безопасности ИИ и предложение Палаты представителей США, обязывающее ведущие ИИ-компании привлекать внешних оценщиков безопасности. [ 6 ]
- РИА Новости опубликовало второй материал, в котором говорится, что глава OpenAI предупредил о последствиях чрезмерного надзора за ИИ; в доступном документе был только заголовок. [ 5 ]
Подтверждено несколькими источниками
- Сэм Альтман, глава OpenAI, которая разрабатывает ChatGPT, заявил, что польза искусственного интеллекта оправдывает связанные с ним риски и негативные события. [ 1 , 2 , 3 , 4 ]
- Альтман сказал, что не готов принять «действительно катастрофические риски», включая возможность потери контроля над искусственным интеллектом. [ 1 , 3 ]
- В освещении рисков фигурируют взломы и мошенничество: RBC сообщило, что Альтман считает пользу ИИ оправданием некоторых рисков, включая взломы и мошенничество, а 3DNews процитировало его слова о том, что он не будет обещать отсутствия серьезных взломов, злоупотребления технологией и мошенничества. [ 1 , 6 ]
Пока неясно
- Когда, где и в каком формате Альтман сделал эти заявления. В документах говорится лишь, что он беседовал с Politico, без даты, места и формата интервью.
- О каких последствиях чрезмерного надзора за ИИ говорило РИА Новости. Второй материал РИА Новости по этой теме содержит только заголовок, без текста статьи или резюме в наших документах.
- Какое предложение отвергал Альтман, называя «неприемлемым компромиссом» ситуацию, когда одна компания работает над ИИ, контролирует его внедрение и решает, кто получит выгоду. Только 3DNews сообщает об этом фрагменте, и оно не называет предложение.
- Остальная часть цитаты Альтмана об отсутствии обещаний насчет серьезных взломов, злоупотреблений, мошенничества и других проблем, которая обрывается на полуслове в тексте 3DNews. Текст статьи в документе обрывается на середине предложения, поэтому полное заявление недоступно.
- Сообщаемая поддержка OpenAI более строгих правил в Калифорнии и в Палате представителей США, которая соседствует с описанием Альтманом собственной позиции OpenAI как более мягкой в вопросе регулирования. Этот материал исходит от одного издания, 3DNews, и очевидное противоречие внутри него в документах не объясняется.
Что пишут местные СМИ
Хронология, местное время
- RBC публикует первый материал, сообщая, что глава OpenAI призвал мир принять «плохие вещи» ради пользы ИИ и назвал катастрофические риски «неприемлемыми». [ 1 ]
- RBC публикует второй материал, называя Сэма Альтмана и указывая Politico как издание, которому он дал интервью. [ 2 ]
- ТАСС сообщает, что Альтман заявил, что польза использования ИИ оправдывает риски, и что он не готов принять катастрофические. [ 3 ]
- РИА Новости публикует материал с заголовком о том, что глава OpenAI считает пользу ИИ оправданием рисков. [ 4 ]
- РИА Новости публикует второй материал, в котором говорится, что глава OpenAI предупредил о последствиях чрезмерного надзора за ИИ. [ 5 ]
- 3DNews публикует более полный отчет, включая замечания Альтмана о доступности, контраст OpenAI с Anthropic и регуляторные пункты Калифорнии и Палаты представителей США. [ 6 ]