Глава OpenAI Альтман говорит, что некоторые риски ИИ придётся принять, обозначив разногласия с Anthropic
Коротко
Глава OpenAI Сэм Альтман в интервью подкасту Politico заявил, что обществу придётся принять некоторые негативные последствия, чтобы обеспечить преимущества искусственного интеллекта и сохранить контроль человека. Он описал подход OpenAI как «более мягкую регуляторную позицию» и сказал, что она существенно отличается от позиции конкурирующей Anthropic. Он добавил, что не имеет в виду принятие катастрофических рисков, таких как серьёзная потеря контроля человека над ИИ.
Читать полностью 2 мин чтения
Глава OpenAI Сэм Альтман заявил, что обществу придётся принять некоторые негативные последствия, чтобы обеспечить преимущества искусственного интеллекта и сохранить контроль человека, в интервью технологическому подкасту «Decoded» американского политического издания Politico 4 октября по местному времени, сообщили корейские издания. Yonhap, Asia Economy, Kyunghyang Shinmun и Electronic Times привели его заявления; Kyunghyang сообщила, что передаёт информацию через Reuters и другие издания. [ 1 , 2 , 3 , 4 ]
«Позиции двух компаний существенно различаются», — сказал Альтман об OpenAI и конкурирующей Anthropic, согласно сообщениям. Он сказал, что OpenAI считает, что «нам придётся принять некоторые плохие вещи» ради преимуществ технологии и сохранения человеческой субъектности. Он сказал, что не принял бы сделку, при которой нет крупных хакерских инцидентов, нет злоупотреблений ИИ, нет мошенничества и нет других плохих последствий, потому что люди произведут в десятки раз больше пользы, чем вреда. [ 1 , 2 , 3 , 4 ]
Альтман назвал позицию OpenAI «более мягкой регуляторной позицией», сообщили издания. Он отверг идею, что одна ведущая лаборатория должна владеть мощной технологией и решать, как распределяются её преимущества, назвав это совершенно неприемлемым компромиссом, согласно Kyunghyang. [ 1 , 3 , 4 ]
Он также обозначил предел: он сказал, что не выступает за принятие катастрофических рисков, таких как серьёзная потеря человечеством контроля над ИИ — ситуация, в которой люди не могут понять, что делает ИИ, или не могут удерживать его под человеческим управлением. [ 1 , 2 , 3 , 4 ]
Альтман поднял критику о том, что регуляторный план, предложенный главой Anthropic Дарио Амодеи, представляет собой «регуляторный захват», при котором регулируемые компании продвигают выгодные себе правила и блокируют конкурентов. Anthropic возразила, что её предложение применяется только к наиболее передовым ведущим ИИ-моделям и потому выгодно более поздним конкурентам, сообщила Politico. [ 1 , 2 , 4 ]
OpenAI ранее была относительно настроена против регулирования ИИ, но после инцидентов, включая внешний взлом её собственных ИИ-моделей, проявила сочувствие к аргументу Anthropic о замедлении темпов, сообщили Yonhap и Electronic Times. Kyunghyang сообщила, что Альтман согласен с необходимостью умерять скорость разработки, но по-прежнему выступает за более мягкое регулирование, чем Anthropic. [ 1 , 3 , 4 ]
Kyunghyang сообщила, что различия между двумя компаниями могут стать яснее в том, как отрасль будет реагировать на регулирование передовых моделей ИИ и стандарты выпуска моделей, а самоуправляемые ИИ-агенты, как ожидается, поднимут вопрос о том, какой объём злоупотреблений допустим и когда доступ следует ограничивать. [ 3 ]
Почему это важно
Эти заявления обозначили публичное расхождение между двумя ведущими разработчиками ИИ относительно того, насколько регулирование должно ограничивать наиболее мощные модели, а обе компании продают и развёртывают свою продукцию на международном уровне. Kyunghyang Shinmun сообщила, что этот разрыв может стать более заметным в том, как отрасль будет реагировать на регулирование передовых моделей ИИ и стандарты их выпуска, а самоуправляемые ИИ-агенты станут предстоящим тестом на то, какой объём злоупотреблений допустим и когда доступ следует ограничивать.
Ключевые факты
- Глава OpenAI Сэм Альтман в интервью технологическому подкасту Politico «Decoded» 4 октября по местному времени заявил, что ради преимуществ ИИ придётся принять некоторые плохие последствия. [ 1 , 2 , 3 , 4 , 5 , 6 ]
- Альтман сказал, что позиции OpenAI и Anthropic по регулированию ИИ существенно различаются. [ 1 , 2 , 4 ]
- Он описал подход OpenAI как «более мягкую регуляторную позицию» и отверг сделку, при которой не было бы крупных хакерских атак, злоупотреблений и мошенничества. [ 1 , 2 , 4 ]
- Он сказал, что не выступает за принятие катастрофических рисков, таких как серьёзная потеря человечеством контроля над ИИ. [ 1 , 2 , 3 , 4 ]
- Альтман поднял критику «регуляторного захвата» в отношении предложенных правил главы Anthropic Дарио Амодеи; Anthropic заявила, что её план применяется только к ведущим передовым моделям и потому выгоден более поздним конкурентам, сообщила Politico. [ 1 , 2 , 4 ]
- Yonhap и Electronic Times сообщили, что OpenAI проявила сочувствие к аргументу Anthropic о замедлении темпов после инцидентов, включая внешний взлом её собственных ИИ-моделей. [ 1 , 4 ]
- Kyunghyang Shinmun сообщила, что Альтман согласен с необходимостью умерять скорость разработки, но по-прежнему выступает за более мягкое регулирование, чем Anthropic. [ 3 ]
Подтверждено несколькими источниками
- Альтман сказал, что некоторые риски и негативные последствия придётся принять, чтобы получить преимущества ИИ. [ 1 , 2 , 3 , 4 , 5 , 6 ]
- Альтман сказал, что позиции OpenAI и Anthropic по регулированию ИИ существенно различаются. [ 1 , 2 , 4 ]
- Альтман сказал, что не принял бы ситуацию, в которой не было бы крупных хакерских атак, злоупотреблений ИИ и мошенничества. [ 1 , 2 , 3 , 4 ]
- Альтман сказал, что не имеет в виду принятие катастрофического риска, такого как серьёзная потеря контроля человека над ИИ. [ 1 , 2 , 3 , 4 ]
- Заявления были сделаны в интервью технологическому подкасту Politico «Decoded» 4 октября по местному времени. [ 1 , 2 , 3 , 4 , 5 ]
- Anthropic опровергла критику о регуляторном захвате, заявив, что её предложение применяется только к наиболее передовым моделям и выгодно более поздним конкурентам, согласно Politico. [ 1 , 2 , 4 ]
Пока неясно
- Где состоялось интервью, не указано; в сообщении Yonhap стоит даталайн Сан-Франциско. В документах нет места проведения самого интервью, поэтому город выводится только из даталайна одного сообщения.
- Kyunghyang Shinmun ссылается на Reuters и другие издания как на источник интервью, тогда как другие сообщения приписывают его напрямую Politico. Атрибуция у разных изданий различается, хотя цитируемые заявления совпадают.
- Детали упомянутых в качестве фона инцидентов, включая сообщения о внешнем взломе собственных ИИ-моделей OpenAI, не описываются. Yonhap и Electronic Times упоминают инциденты, не приводя дат, действующих лиц или последствий.
- Изменилась ли официальная регуляторная позиция OpenAI, не указано; сообщения говорят, что она недавно проявила сочувствие к аргументу Anthropic о контроле темпов. Это характеристика от Yonhap и Electronic Times, а не заявленный сдвиг политики, а утверждение Kyunghyang о согласии Альтмана с контролем темпов опирается на один источник.
Что пишут местные СМИ
Хронология, местное время
- Yonhap публикует первое сообщение на корейском языке о заявлениях Альтмана с даталайном Сан-Франциско. [ 1 ]
- Asia Economy публикует своё сообщение об интервью. [ 2 ]
- Kyunghyang Shinmun публикует своё сообщение со ссылкой на Reuters и другие издания. [ 3 ]
- Electronic Times публикует своё сообщение. [ 4 ]
- Лента Chosun Ilbo публикует краткое изложение заявлений Альтмана. [ 5 ]
- Chosun Ilbo публикует второе краткое изложение ленты, описывающее смягчённую формулировку Альтмана. [ 6 ]