Альтман из OpenAI говорит, что польза ИИ оправдывает некоторый риск, и отвергает катастрофические исходы
Коротко
Генеральный директор OpenAI Сэм Альтман в интервью программе Decoded заявил, что польза ИИ стоит того, чтобы принять некоторый риск, и что технология должна оставаться широко открытой для публики, добавив при этом, что он не принимает по-настоящему катастрофический риск, такой как утрата человеческого контроля над ИИ. Он описал «огромную пропасть» между OpenAI и Anthropic, чей генеральный директор Дарио Амодеи выступал за строгое регулирование ИИ, хотя в документах отмечается, что позиции двух компаний по внешней оценке безопасности в последнее время сблизились.
Читать полностью 2 мин чтения
Генеральный директор OpenAI Сэм Альтман заявил, что польза искусственного интеллекта стоит того, чтобы принять некоторый риск, и что технология должна оставаться широко открытой для публики, в интервью программе Decoded. «Мы считаем, что для получения пользы от этой технологии и предоставления людям автономии мир должен принять определённые издержки и негативные события, которые с ней связаны», — сказал он, согласно IT Home и 36Kr. CLS сообщила, что Альтман не согласился с конкурентом Anthropic по вопросу риска ИИ, заявив, что не принимает утверждение, будто ИИ представляет «чрезвычайно разрушительный риск». [ 1 , 3 , 4 ]
Отвечая на вопрос о том, в чём он расходится с Anthropic и её генеральным директором Дарио Амодеи, Альтман сказал: «Я думаю, между двумя сторонами огромная пропасть», сообщила IT Home. IT Home отметила, что Anthropic давно считается в отрасли самым последовательным сторонником строгого регулирования ИИ, тогда как OpenAI ранее выступала за более мягкие правила. [ 3 ]
Альтман также обозначил границу риска, который он принимает. Он сказал, что итоговые положительные результаты ИИ должны превышать негативные последствия на «несколько порядков», но что он не принимает по-настоящему катастрофический риск, включая серьёзную утрату человеческого контроля над ИИ. По данным cnBeta, интервьюер назвал это различие ключевым: «плохие вещи», которые принимает Альтман, в основном относятся к отдельным серьёзным инцидентам, которые могут сопровождать распространение и внедрение технологии, а не к допущению катастрофических последствий систем. [ 2 , 3 ]
В документах говорится, что позиции двух компаний не являются неизменными. cnBeta сообщила, что Альтман в прошлом месяце публично поддержал призыв Амодеи контролировать темпы разработки передовых моделей и высказался за предоставление независимым оценщикам доступа на уровне сотрудников, а также что OpenAI поддержала двухпартийное предложение в Конгрессе США, требующее от ведущих компаний ИИ, превышающих определённые пороги по выручке и вычислительным ресурсам, проходить внешнюю оценку безопасности. IT Home сообщила, что OpenAI недавно сдвинулась в сторону поддержки более строгих отраслевых правил на фоне громких хакерских атак и неподобающего поведения моделей. [ 2 , 3 ]
Что касается регулирования на уровне штатов, cnBeta сообщила, что OpenAI ранее добивалась единообразных федеральных правил и выступала против лоскутной системы законов штатов, но в сентябре объявила о поддержке четырёх калифорнийских законопроектов о безопасности ИИ, охватывающих независимые органы оценки рисков, стандарты для аудиторов ИИ, защиту подростков, использующих чат-боты, и меры против биологических угроз, связанных с ИИ. Компания также заявила, что поддерживает национальные требования безопасности, градуированные по возможностям и риску модели, и что штаты могут продолжать работу до принятия федерального законодательства, сообщила cnBeta. [ 2 ]
В совокупности, по данным cnBeta и IT Home, OpenAI и Anthropic по-прежнему расходятся в том, насколько строгим должно быть регулирование и насколько быстро должно идти развитие, но их дистанция в вопросах внешней оценки и контроля рисков передовых моделей сокращается. [ 2 , 3 ]
Почему это важно
Эти высказывания фиксируют разногласия между двумя наиболее видными разработчиками ИИ относительно того, какой риск общество должно принимать по мере развития технологии — спор, который формирует правила безопасности в США и других странах. Документы также указывают, что разрыв между ними сокращается в вопросе внешней оценки передовых моделей, хотя они по-прежнему расходятся в том, насколько строгим должно быть регулирование и насколько быстро должно идти развитие.
Ключевые факты
- Генеральный директор OpenAI Сэм Альтман заявил, что польза ИИ стоит того, чтобы принять некоторый риск, и что технология должна оставаться широко открытой для публики. [ 3 , 4 ]
- Альтман сказал, что не согласен с Anthropic по вопросу риска ИИ, и описал «огромную пропасть» между мировоззрениями двух компаний в отношении регулирования ИИ. [ 1 , 3 ]
- Альтман заявил, что не принимает по-настоящему катастрофический риск, включая серьёзную утрату человеческого контроля над ИИ. [ 2 , 3 ]
- Альтман сказал, что итоговые положительные результаты ИИ должны превышать негативные последствия на «несколько порядков». [ 2 ]
- cnBeta сообщила, что Альтман в прошлом месяце публично поддержал призыв генерального директора Anthropic Дарио Амодеи контролировать темпы разработки передовых моделей и высказался за предоставление независимым оценщикам доступа на уровне сотрудников. [ 2 ]
- В документах говорится, что регуляторные позиции OpenAI и Anthropic сближались в последние месяцы, хотя они по-прежнему расходятся в вопросе строгости регулирования и скорости разработки. [ 2 , 3 ]
- cnBeta сообщила, что в сентябре OpenAI объявила о поддержке четырёх калифорнийских законопроектов о безопасности ИИ, охватывающих независимые органы оценки рисков, стандарты для аудиторов ИИ, защиту подростков, использующих чат-боты, и меры против биологических угроз, связанных с ИИ. [ 2 ]
Подтверждено несколькими источниками
- Альтман заявил, что польза ИИ оправдывает принятие некоторого риска, и что технология должна оставаться широко открытой для публики. [ 3 , 4 ]
- Альтман заявил, что не принимает катастрофический риск, включая серьёзную утрату человеческого контроля над ИИ. [ 2 , 3 ]
- Высказывания Альтмана были сделаны в интервью, в котором его спросили о его разногласиях с Anthropic и её генеральным директором Дарио Амодеи. [ 3 , 4 ]
- В документах говорится, что позиции OpenAI и Anthropic сближались в последние месяцы, даже несмотря на сохраняющиеся разногласия. [ 2 , 3 ]
Пока неясно
- Конкретные регуляторные меры, которые, как сообщается, поддерживает OpenAI Четыре калифорнийских законопроекта о безопасности ИИ, двухпартийное предложение в Конгрессе, требующее внешней оценки безопасности для ведущих компаний ИИ, превышающих пороги по выручке и вычислительным ресурсам, а также продолжение нормотворчества на уровне штатов до принятия федерального законодательства сообщаются только cnBeta и не подтверждаются другими документами.
- Точные масштабы риска, который, по словам Альтмана, общество должно принять Альтман заявил, что мир должен принять определённые негативные события; в изложении cnBeta это означает в основном отдельные серьёзные инциденты, сопровождающие распространение и внедрение технологии, а не катастрофические исходы, но в документах не приводится дополнительных деталей о том, какие инциденты он счёл бы приемлемыми.
Что пишут местные СМИ
Хронология, местное время
- CLS сообщает, что позиция Альтмана по риску ИИ расходится с позицией Anthropic и что он не принимает «чрезвычайно разрушительный риск». [ 1 ]
- cnBeta публикует более полное изложение интервью, включая границу риска Альтмана и регуляторные позиции OpenAI. [ 2 ]
- IT Home публикует высказывания Альтмана, включая комментарий об «огромной пропасти» и его мнение, что польза ИИ стоит того, чтобы принять некоторый риск. [ 3 ]
- 36Kr сообщает о высказываниях Альтмана о том, что польза ИИ оправдывает принятие риска и что технология должна оставаться широко открытой. [ 4 ]