В последние годы внимание к угрозам, которые искусственный интеллект (AI) и робототехника могут представлять для общества, значительно возросло. Это отчасти связано с тем, что технологические лидеры и законодатели начинают осознавать, что идеи, высказанные Исаком Азимовым в его знаменитых "Трех законах робототехники", становятся все более актуальными. Эти законы, впервые опубликованные в марте 1942 года в журнале Astounding Science Fiction и позже собранные в книге "Я, робот" в 1950 году, задают важные вопросы о взаимодействии человека и машины.

Три закона робототехники

Асимов сформулировал три основных закона, которые должны регулировать поведение роботов: 1. Робот не может причинить вред человеку или, бездействуя, допустить, чтобы человеку был причинен вред. 2. Робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону. 3. Робот должен защищать свое собственное существование, пока такая защита не противоречит Первому или Второму закону. Хотя эти законы кажутся логичными, только одна компания, Advanced Robotic Technologies Inc., приняла их как основополагающий принцип в разработке своего программного обеспечения для генеративного искусственного интеллекта, применяемого в производстве крупных промышленных продуктов. Это подчеркивает, что многие компании не внедряют такие ограничения в свои алгоритмы, что создает потенциальные риски для безопасности человека.

Современные опасения

Недавние высказывания Дарио Амодеи, генерального директора компании Anthropic, подчеркивают необходимость замедлить развитие передовых моделей AI, особенно агентного AI. Он выразил опасения, что автономные AI-агенты могут выполнять сложные задачи и действовать в унисон, не оставляя следов, что ставит под угрозу базовые принципы безопасности. Его мнение разделяют такие лидеры, как Сэм Альтман из OpenAI и Илон Маск. Билл Гейтс также высказал свои сомнения по поводу быстрого развития AI и угроз, которые оно несет для общества.

Угроза для цивилизации

Некоторые эксперты, такие как бывший исследователь Anthropic и OpenAI Джейкоб Коксон, утверждают, что существует 10% вероятность того, что человечество может столкнуться с угрозой вымирания из-за быстрого развития агентного AI. Эван Хубингер, руководитель научного отдела по согласованию в Anthropic, оценивает эти шансы еще выше. Это подчеркивает, что предостережения Асимова о потенциальных угрозах недостаточно, и необходимо учитывать более широкий контекст.

Нулевой закон Асимова

В своем романе "Роботы и Империя" Асимов добавил так называемый Нулевой закон, который ставит интересы человечества выше интересов отдельного индивида. Это изменение акцентирует внимание на том, что потенциальный вред от интеллектуальных роботов может угрожать не только отдельным людям, но и цивилизации в целом. Обсуждение Нулевого закона становится все более актуальным среди разработчиков AI, что подчеркивает необходимость в более глубоком осмыслении последствий внедрения технологий.

Экономические последствия

В свете этих опасений, более 2500 экономистов и технологов подписали заявление "Мы должны действовать сейчас", призывающее к немедленным действиям для предотвращения негативных последствий от внедрения AI. Они предупреждают, что без адекватных мер по регулированию и поддержке перехода к новому рынку труда, общество может столкнуться с экономическим кризисом. Сенатор Марк Уорнер в своем законодательном предложении "Рамки для будущего AI в Америке" подчеркивает необходимость создания Национального фонда перехода рабочей силы, который обеспечит переобучение и поддержку работников, чьи профессии могут быть заменены автоматизацией.

Взгляд на будущее

Сенатор Уорнер также отметил, что в течение ближайших двух лет до 30% выпускников колледжей могут столкнуться с трудностями в поиске работы из-за быстрого внедрения AI в рабочие процессы. Это подчеркивает необходимость в разработке программных мер безопасности и политик перехода, чтобы избежать повторения ошибок, допущенных в ходе Индустриальной революции.

Заключение

Несмотря на оптимистичные прогнозы о том, что в будущем будет создано больше рабочих мест, чем сейчас, важно, чтобы переход к построботизированному обществу был организованным и гуманным. Как подчеркивает Ринальдо Брутоко, основатель Всемирной бизнес-академии, мы должны действовать сейчас, чтобы сохранить контроль человека над технологиями и обеспечить безопасное будущее для всех.