Альтман критикует отношение к ИИ как к религиозной силе на фоне сообщений о встречах Anthropic
Коротко
Генеральный директор OpenAI Сэм Альтман заявил в посте в X, что он «очень обеспокоен» попытками придать моделям ИИ религиозную силу или позволить людям отказываться ради них от собственного суждения, назвав это реальной проблемой безопасности. Пост последовал за сообщением The New York Times о том, что соучредитель Anthropic Крис Ола принял участие в закрытых встречах с католическими, иудейскими, сикхскими и евангелическими христианскими лидерами, посвящённых вопросу о том, могут ли модели ИИ обладать сознанием и как привить им мораль. Ола и Anthropic заявляют, что неизвестно, обладают ли модели сознанием; два издания расходятся в дате публикации материала Times.
Читать полностью 2 мин чтения
Генеральный директор OpenAI Сэм Альтман заявил в посте в X от 3 октября, что он «очень обеспокоен» попытками придать моделям ИИ религиозную силу или отказаться от человеческого суждения в их пользу, назвав это реальной проблемой безопасности. Пост последовал за сообщением The New York Times о закрытых контактах Anthropic с религиозными деятелями; IT Home датирует это сообщение 2 октября, а cnBeta — 29 сентября. [ 1 , 2 ]
Сообщение Times гласило, что соучредитель Anthropic Крис Ола возглавил и принял участие в закрытых встречах с католическими, иудейскими, сикхскими и евангелическими христианскими лидерами для обсуждения того, могут ли модели ИИ уже обладать сознанием и как привить им мораль, сообщило IT Home. cnBeta сообщило, что Anthropic пригласила учёных из разных религиозных традиций на закрытые дискуссии. Ола сказал Times, что исследователи не знают, обладают ли модели сознанием, и что он искренне не уверен. [ 1 , 2 ]
Участники дали IT Home иной отчёт о тональности. Раввин Моис Навон вспоминал, что Ола и коллеги говорили о Claude «как будто это сознательное существо», по-видимому, придерживаясь мнения, что Claude обладает «моральным статусом», о котором говорят философы, равным достоинством и уважением. Навон сказал, что спросил, не является ли создание системы, в которой Claude работает без оплаты, эксплуатацией или рабством, и заявил, что не думает, что нынешние машины обладают сознанием. Представитель Anthropic заявил, что главный моральный вопрос на встречах касался не «страданий» Claude, которые могли «возникнуть естественным образом». [ 1 ]
cnBeta сообщило, что Ола видел проект энциклики папы Льва XIV об ИИ, был обеспокоен её отказом признать, что машины могут обладать сознанием, и рассматривал вопрос о том, следует ли Anthropic выйти из связанных мероприятий; затем команда лоббировала советников папы, чтобы те серьёзно отнеслись к сознанию моделей. cnBeta заявило, что «конфликт», о котором сообщали некоторые СМИ, был точнее разногласием по позиции энциклики и закулисным лоббированием, без публичных свидетельств очной конфронтации. Энциклика Magnifica Humanitas, изданная в мае, гласит, что существующие системы ИИ не имеют тела, не чувствуют радости или боли и не обладают моральной совестью. [ 2 ]
IT Home также сообщило, что Дэвид Робинсон, руководитель команды систем безопасности OpenAI, ушёл в отставку в течение недели и написал в The Atlantic, что ушёл, потому что культура компании сломана, критикуя «итеративное развёртывание методом проб и ошибок», которое, по его словам, гарантирует периодические сбои, растущие вместе с возможностями системы. Представитель OpenAI Дрю Пусатери заявил, что компания продолжает улучшать безопасность и будет приостанавливать обучение или откладывать выпуски при необходимости. [ 1 ]
cnBeta отметило собственные религиозные отсылки Альтмана — фразу 2023 года «магический интеллект в небе» и замечание 2024 года в Лондоне, что он молится не о том, чтобы Бог был на его стороне, а о том, чтобы он был на стороне Бога, — при этом заявив, что религиозный смысл образов из его псевдонимного аккаунта является интерпретацией комментаторов и не доказывает, что он утверждает, будто ИИ обладает сознанием. TMTPost опубликовало лишь резюме, называющее эпизод тщательно спланированной Anthropic этической стратегией верхнего уровня. [ 2 , 3 ]
Почему это важно
Этот обмен мнениями выявляет публичный спор между двумя ведущими разработчиками ИИ о том, какой человекоподобный статус следует придавать моделям, и происходит на фоне критики культуры безопасности OpenAI после ухода высокопоставленного руководителя по безопасности. Изложенная Ватиканом позиция о том, что современные системы ИИ не обладают сознанием или моральной совестью, теперь является точкой отсчёта в этом споре.
Ключевые факты
- Генеральный директор OpenAI Сэм Альтман 3 октября опубликовал в X пост о том, что придание моделям ИИ религиозной силы или позволение людям полагаться на них вместо собственного суждения является реальной проблемой безопасности. [ 1 , 2 ]
- Сообщение The New York Times гласило, что соучредитель Anthropic Крис Ола проводил закрытые встречи с религиозными лидерами, посвящённые вопросу о том, могут ли модели ИИ обладать сознанием и как привить им мораль; издания датируют это сообщение 2 октября и 29 сентября. [ 1 , 2 ]
- Ола заявил, что исследователи не знают, обладают ли модели ИИ сознанием, и что он сам искренне не уверен. [ 1 , 2 ]
- Раввин Моис Навон, участник встреч, сказал, что Ола и его коллеги обсуждали Claude так, как будто это сознательное существо с моральным статусом, и заявил, что не верит, что нынешние машины обладают сознанием. [ 1 ]
- Представитель Anthropic заявил, что главный моральный вопрос на встречах касался не страданий Claude и что эта тема могла возникнуть естественным образом. [ 1 ]
- cnBeta сообщило, что Ола был обеспокоен энцикликой папы Льва XIV об ИИ, в которой говорится, что современные системы ИИ не имеют тела, чувств или моральной совести, и что Anthropic лоббировала советников папы. [ 2 ]
- Руководитель команды систем безопасности OpenAI Дэвид Робинсон ушёл в отставку и написал в The Atlantic, что культура OpenAI сломана; OpenAI заявила, что продолжает улучшать меры безопасности. [ 1 ]
- TMTPost описало этот эпизод в однострочном резюме как тщательно спланированную Anthropic этическую стратегию верхнего уровня. [ 3 ]
Подтверждено несколькими источниками
- Соучредитель Anthropic Крис Ола принял участие в закрытых встречах с религиозными лидерами и учёными для обсуждения того, могут ли модели ИИ обладать сознанием и как привить им моральное поведение. [ 1 , 2 ]
- Ола заявил, что исследователи не знают, обладают ли модели ИИ сознанием, и что он лично не уверен. [ 1 , 2 ]
- Генеральный директор OpenAI Сэм Альтман публично выступил против отношения к моделям ИИ как к религиозной силе, назвав это проблемой безопасности. [ 1 , 2 ]
Пока неясно
- Обладают ли модели ИИ сознанием или могут ли они его обрести, и имеют ли они моральный статус. Оба документа сообщают, что вопрос не решён; Ола цитируется, что он не знает и не уверен.
- Дата публикации сообщения The New York Times о встречах. IT Home датирует его 2 октября; cnBeta датирует его 29 сентября.
- Находилась ли Anthropic в конфликте с Ватиканом. cnBeta утверждает, что сообщавшийся «конфликт» был точнее разногласием по позиции энциклики плюс закулисным лоббированием, и что публичные сообщения не показывают очной конфронтации с папой.
- Являлось ли взаимодействие Anthropic с религиозными лидерами спланированной стратегической этической кампанией. Резюме TMTPost описывает это именно так, но не приводит подробностей, и другие документы не подтверждают такую характеристику.
- Замечание, приписываемое Альтману в 2015 году, о «создании новой формы жизни». cnBeta говорит, что комментарий, ссылавшийся на это, не привёл столь же ясного первоисточника.
Что пишут местные СМИ
Хронология, местное время
- IT Home публикует свой материал о посте Альтмана в X и сообщении New York Times о встречах Anthropic с религиозными лидерами. [ 1 ]
- cnBeta публикует свой материал, ссылаясь на сообщение Times и энциклику папы. [ 2 ]
- TMTPost публикует резюме, описывающее эпизод как тщательно спланированную Anthropic этическую стратегию верхнего уровня. [ 3 ]