Скотт Уинер, сенатор штата Калифорния, стал одним из ключевых игроков в области регулирования искусственного интеллекта (ИИ) после победы на выборах в Конгресс на открытом месте Нэнси Пелоси в Сан-Франциско. В ходе недавнего интервью он поделился своими мыслями о рисках, связанных с ИИ, и о необходимости принятия законодательных мер для их снижения.

Важность регулирования ИИ

Уинер уже давно занимается вопросами безопасности ИИ. В своем недавнем разговоре он отметил, что отчет некоммерческой организации METR, выпущенный накануне выборов, подчеркивает необходимость быстрого реагирования на потенциальные угрозы, связанные с ИИ. В этом отчете утверждается, что компания Anthropic достигла стадии рекурсивного саморазвития, что означает, что ИИ может самостоятельно способствовать своему прогрессу, что, в свою очередь, может привести к неконтролируемому развитию технологий. "Это очень тревожно", — заявил Уинер, добавив, что время для регулирования истекает.

Законодательные инициативы

Уинер уже проявил влияние на политику в области ИИ, авторствуя законопроект SB 1047 в 2024 году, который должен был стать первым значимым законодательным актом в этой области в стране, однако он был отклонен губернатором Калифорнии Гэвином Нуссом. После этого Уинер предложил законопроект SB 53, который был принят и подписан Нуссом. Оба законопроекта вдохновили на разработку предложений федерального законодательства.

Поддержка и критика

На его избирательную кампанию было выделено более 3 миллионов долларов от Public First Action, некоммерческой организации, выступающей за регулирование ИИ и получающей значительное финансирование от Anthropic. Это вызвало критику со стороны оппонентов, которые утверждали, что Уинер слишком близок к индустрии ИИ. Однако сам Уинер опроверг эти обвинения, подчеркивая, что именно он стал первым законодателем в стране, который инициировал и реализовал регулирование ИИ.

Будущее регулирования ИИ

Уинер выразил готовность участвовать в работе специального комитета по искусственному интеллекту, о создании которого обсуждали демократы с сентября. Он поддерживает идеи создания сильного и гибкого федерального регулятора, а также важность защиты информаторов, требований к тестированию и аудиту, а также наличия "кнопки отключения" для ИИ-систем. "Это касается будущего человечества, и мы хотим, чтобы общество имело возможность влиять на происходящее", — отметил он.

Местные и национальные проблемы

Несмотря на поддержку регулирования ИИ, Уинер отмечает, что существует разрыв между его взглядами и общенациональным настроением, которое в значительной степени сосредоточено на местных проблемах, таких как противодействие строительству дата-центров. На недавних выборах избиратели одобрили 40 из 41 мер, направленных против дата-центров, что, по мнению Уинера, связано больше с местными заботами, чем с глобальными вопросами о рисках ИИ.

Оптимизм и осторожность

Уинер описывает себя как "осторожно оптимистичного" относительно способности Конгресса контролировать ИИ, учитывая его неудачи в регулировании технологической отрасли в прошлом. Он также выражает опасения по поводу возможности принятия законопроектов в условиях противодействия со стороны президента Дональда Трампа, который ранее назвал опасения по поводу катастрофического риска ИИ "обманом". Тем не менее, Уинер надеется, что даже в условиях неопределенности удастся избежать катастроф и достичь значимого прогресса в регулировании ИИ.