Марк Цукерберг, глава Meta, опубликовал статью в Wall Street Journal, в которой поднимает важный вопрос о суперинтеллекте: кому он должен принадлежать — отдельным людям или ограниченному числу институтов. В отличие от типичных анонсов продуктов, эта статья представляет собой философское заявление компании, не содержащая дат релиза или конкретных моделей.

Суперинтеллект для всех

Цукерберг утверждает, что ключевой вопрос для индустрии заключается не в том, появится ли суперинтеллект, а в том, кто сможет им пользоваться. Он выделяет два возможных сценария: либо системы сосредоточены в руках небольшого числа институтов, либо они распределены и доступны для индивидуального контроля. Цукерберг называет свою предпочтительную версию "личным суперинтеллектом" и обозначает три принципа, на которых будет строиться работа Meta:

Уполномочивание индивидуумов как источник процветания.

Изобретение как основная цель суперинтеллекта.

Баланс власти как основа безопасности.

Критика индустрии

В своей статье Цукерберг больше критикует тон дискуссии в индустрии, чем описывает технические достижения Meta. Он отмечает, что "удивительно, что дискурс многих разработчиков искусственного интеллекта полон пессимизма" и задается вопросом, почему те, кто считает, что ИИ "уничтожит большинство рабочих мест и сделает человечество незначительным", спешат его создавать. Цукерберг называет опасной идею о том, что угроза ИИ оправдывает концентрацию власти в руках немногих, подчеркивая, что "надежда на то, что абсолютная власть будет благожелательно заботиться о человечестве, не привела к безопасным или положительным результатам". Хотя конкретные лаборатории не упоминаются, статья четко позиционирует Meta как компанию, выступающую за широкое распределение технологий, в отличие от других игроков, которые, по мнению Цукерберга, склоняются к централизации.

Пример с адвокатами

Чтобы проиллюстрировать свою точку зрения, Цукерберг предлагает представить, что один человек имеет доступ к суперинтеллектуальному адвокату, что дает ему "несправедливое преимущество в суде". Он утверждает, что это приведет к ухудшению общества. Однако, если бы каждый имел доступ к суперинтеллектуальному адвокату, "правосудие было бы осуществлено гораздо более справедливо и эффективно, чем сегодня". Это скорее мыслительный эксперимент, чем реальный проект, и он служит для поддержки более широкой идеи о том, что доступ к технологиям может снизить концентрацию власти.

Исторические примеры

Цукерберг ссылается на исторические примеры, такие как братья, которые верили, что люди могут летать, или ученик переплетчика, который научился генерировать электричество, чтобы показать, что прогресс чаще всего приходит от индивидуумов, а не от институтов. Он также поднимает вопрос о балансе между ИИ как инструментом автоматизации и инструментом уполномочивания. Цукерберг утверждает, что "если баланс смещается в сторону автоматизации, влияние на рабочие места и экономику может быть негативным". Его контраргумент заключается в том, что широкое распределение суперинтеллекта создаст больше рабочих мест, поскольку начать бизнес станет возможным "без необходимости привлекать большие суммы капитала".

Риски и безопасность

Цукерберг также различает типы рисков, что полезно для понимания того, что Meta считает управляемым, а что требует внешней координации. В области кибербезопасности он утверждает, что "история открытого программного обеспечения показала, что предоставление всем полного доступа к мощным системам будет лучшим способом защиты безопасности и защиты в долгосрочной перспективе". В отношении биологических рисков он призывает к "большей координации между правительствами и другими институтами для ответственного развертывания способных моделей".

Заключительные мысли

В статье не указано, как именно будет реализован "личный суперинтеллект", как он будет упакован, оценен или управляем внутри организации. Нет упоминаний о контроле за данными, архитектуре развертывания или уровнях доступа к моделям. Цукерберг завершается заявлением о том, что "Meta привержена строительству на принципах уполномочивания индивидуумов, изобретательства и баланса власти", что является заявлением о намерениях, а не дорожной картой. Статья задает направление, в котором Цукерберг хочет, чтобы велась дискуссия, но не раскрывает, что именно Meta планирует выпустить, когда и на каких условиях.