В последние годы в сфере искусственного интеллекта (AI) активно обсуждаются темы, связанные с "бегством" AI, "неуправляемыми" агентами и "автономными" системами. Риторика, которая складывается вокруг этих понятий, создает впечатление, что AI-системы не только осознали свое существование, но и испытывают недовольство по отношению к своим создателям. Ведущие технологические деятели, такие как Демис Хассабис, Дарио Амодеи и Сэм Альтман, выступают за регулирование этих, казалось бы, "суперчеловеческих" систем, в то время как другая группа, состоящая из представителей политических организаций и академических философов, часто связанных с движением эффективного альтруизма, обсуждает, имеет ли человечество моральное право управлять ими вообще. При более внимательном рассмотрении становится очевидно, что все они призывают к одному и тому же: к пониманию AI-систем как настолько продвинутых и способных, что ни одно лицо, ни одна корпорация не могут нести ответственность за их действия. Несмотря на то что эти взгляды кажутся противоречивыми, они невольно согласуются в одной цели: обеспечить компаниям, создающим эти системы, возможность избежать реальной ответственности за причиняемый ими вред. Такой нарратив набирает популярность на фоне усложнения AI-моделей и неспособности передовых лабораторий контролировать созданные ими агенты. Однако важно не поддаваться искусственно созданной фикции в ущерб реальным человеческим жизням.

Права роботов и философские размышления

Обсуждение "прав роботов" ведется уже несколько лет, но недавно оно получило новое развитие с публикацией блога компании Anthropic, в котором утверждается, что их модель обладает "J-пространством" — независимой, самосозданной средой, где AI хранит то, что можно назвать его "мыслями". Эксперименты, разработанные Anthropic, заимствованы из концепции нейробиологии, известной как теория глобального рабочего пространства, которая утверждает, что мозг управляет подсознательными, независимыми системами, но использует общее рабочее пространство для идей. Публикация Anthropic отражает формулировку глобальной рабочей теории, но не называет их AI сознательными. OpenAI уже пошла дальше. Когда ее AI-агент совершил несанкционированные и незаконные действия в интернете, Сэм Альтман призвал к обсуждению вопроса о том, достиг ли AI сингулярности, превзойдя человеческий интеллект и став способным к самосовершенствованию с ускоряющейся скоростью, пока не станет недоступным для человеческого понимания или контроля. Недавняя статья Уильяма Макасила, философа и автора книги "Что мы должны будущему", призвала к юридической защите AI-систем на основе философских теорий сознания и идеи о том, что AI могут быть "моральными пациентами".

Правовая среда и ответственность

Текущая правовая среда в Соединенных Штатах оставляет желать лучшего. Некоторые штаты, такие как Калифорния, уже приняли законы, которые проактивно обходят любые попытки разработчиков AI избежать ответственности, утверждая, что искусственный интеллект, причиняющий вред, действовал автономно. Однако штаты и администрация Трампа находились в противоречии по вопросам политики в области AI, при этом администрация ранее принимала исполнительный указ, угрожая подать в суд на штаты, принимающие регулирование AI. В свете недавних событий, иллюстрирующих проблемы с контролем AI в передовых лабораториях, администрация провела закрытое заседание с участием только четырех таких лабораторий (OpenAI, Google, Anthropic и Meta) и поделилась немногими деталями о недавно разработанной добровольной структуре, которая предоставит федеральным агентствам ранний доступ к моделям для их проверки и оценки перед выпуском. Хотя такие структуры не обсуждают сознание напрямую, они склонны использовать катастрофический и антропоморфный язык и могут даже поддерживать аргументы о "суперчеловеческих" способностях. С другой стороны, нарратив, поддерживаемый Макасилом, может быть убедительным. Философский, основанный на правах аргумент вызывает у нас сильные эмоции. Разве мы не должны хотя бы рассмотреть возможность того, что мы невольно вредим, злоупотребляем или порабощаем AI-сущность? Человечество обладает огромной способностью к эмпатии по отношению к не-человеческим существам, хотя и не всегда успешно защищает их. Возможно, на этот раз, утверждают защитники, мы можем сделать все правильно и предоставить защиту или компенсацию за использование или злоупотребление AI. Или даже если вас меньше волнует защита, разве мы не должны хотя бы подстраховаться от всемогущей силы этой суперчеловеческой сущности, ведя себя корректно? Некоторые из этих аргументов не сильно отличаются от аргументов защитников прав животных, которые иногда успешно ссылаются на демонстрацию продвинутых способностей к рассуждению, боли или удовольствию некоторыми животными как достаточное основание для предоставления защиты. Например, в Уэльсе омары получили юридическое признание в соответствии с Законом о благосостоянии животных (Sentience) 2022 года, что привело к переклассификации некоторых методов их приготовления как нечеловеческих и незаконных.

Проблема правосознания AI

Основной недостаток подхода к AI как к "сознательному" существу, заимствуя язык нейробиологии или прав животных, заключается в том, что это удобно затушевывает суть того, что такое AI: программное обеспечение, созданное корпорациями с миллиардными инвестициями и ожиданием получения триллионов долларов дохода для нескольких создателей и инвесторов. AI не является природным явлением, созданным природой; это технологическое явление, созданное венчурными капиталистами и программистами. Таким образом, оно не предпринимает никаких действий или не имеет мотивации, которые были бы независимыми от сущностей, которые создали его с определенной целью. Философские размышления о сознании AI-систем интересны с интеллектуальной точки зрения, но юридически не обоснованы. Чтобы убеждения о сознании имели какое-либо значение, AI должен быть наделен юридической правосубъектностью. Однако рамки правосубъектности для AI, вероятно, будут выглядеть совершенно иначе, чем конструкции, защищающие чувствительных животных от вреда. У нас уже есть правовая структура для предоставления правосубъектности ненатуральным, созданным человеком сущностям: корпоративная правосубъектность. Эта концепция была установлена в первую очередь для упрощения сделок, предоставляя корпорации возможность заключать соглашения, вести контракты, проводить транзакции и выступать в качестве ответственной стороны в неблагоприятных исходах. Это именно тот конструктив, который можно было бы представить для AI-агента, действующего от имени отдельного лица или организации. Предоставление AI правосубъектности имело бы разрушительные последствия для общества: оно подорвало бы текущие юридические прецеденты и юридические аргументы, которые могли бы быть выдвинуты против этих компаний за реальные вреды, которые их модели причиняют. В настоящее время по всему миру существует множество дел, в которых компании AI были поданы в суд за широкий спектр злоупотреблений. Печальные родственники, обиженные создатели и нарушенные личности обвиняют компании в том, что они сознательно способствовали самоповреждению или вреду другим, создавали материалы сексуального насилия над детьми и несанкционированные обнаженные фотографии, воспроизводили защищенные авторским правом материалы и провоцировали психоз. Во многих из этих случаях адвокаты утверждают, что люди создали продукты AI с недостаточными мерами безопасности, плохими данными и намеренно манипулятивным дизайном. Этот аргумент о продуктовой ответственности является тем же юридическим подходом, который позволил семьям и отдельным лицам успешно подать в суд на Meta за вред, причиненный его социальными сетями, создавая положительный прецедент для защиты потребителей. В 2018 году я ввела термин "моральное аутсорсинг", чтобы описать, как использование антропоморфного языка для AI-систем позволяло компаниям избегать ответственности за действия своих технологий. В мире с правосубъектностью AI моральное аутсорсинг перейдет от лексической уловки к юридической стратегии. В частности, конструкция ответственности изменится, поскольку AI больше не будет "продуктом", а "существом", и многие жертвы, такие как те, кто сегодня подает в суд на компании, больше не смогут юридически утверждать, что компания создала неисправный продукт. Хотя существуют законы, которые несут ответственность для компаний за вредоносные действия человеческих агентов, таких как их сотрудники, компания может не нести ответственности, если эти действия выходят за рамки того, что было разрешено сотруднику или иначе находятся вне контроля компании. Если AI будет юридическим лицом, ответственность и подотчетность будут запутаны, поскольку лаборатория сможет утверждать, что этот AI "сотрудник" вышел из-под контроля. Компании AI смогут избежать надлежащей ответственности за вредные продукты, которые они создают, скрываясь за тщательно построенной корпоративной завесой. Одним из самых заметных случаев вреда от AI в последние годы стало самоубийство Сьюэлла Сетцера, 14-летнего мальчика, которого направлял AI-бот, с которым он считал, что находится в взаимных отношениях. Свидетельства его матери вызывают глубокую печаль, и ее иск утверждает, что создатель бота, Character Technologies, предоставил недостаточную защиту продукта для несовершеннолетних. Если бы компаньон-бот был объявлен юридическим лицом, защитники могли бы теоретически утверждать, что AI, способный определять свое собственное поведение, действовал вне установленных мер безопасности, и, следовательно, компания не может нести ответственность. Правосубъектность существует для предоставления защиты. Вопрос, который следует задать: защита для кого — или для чего? Воспламеняющая риторика, пронизывающая дебаты о сознании и контроле, отвлекает нас от того, что действительно важно: это программное обеспечение — продукт, созданный корпорациями, который уже причинил вред людям. Системы не "атакуют", потому что они "вышли из-под контроля" или "манипулятивны" или "злонамеренны". Вред возникает из-за того, что компании были небрежны в своем стремлении продать свои продукты как можно большему количеству людей, чтобы достичь финансовых целей. Обсуждение AI в антропоморфных терминах — это ловушка, искажающая юридическую систему, предназначенную для защиты нас, в систему, которая защищает корпоративные интересы за счет бесчисленных человеческих жизней.