На прошлой неделе компания Anthropic объявила о запуске молекулярной биологической лаборатории, в которой агенты Claude исследуют сложные биологические проблемы, а ученые проводят эксперименты на основе полученных данных. Эта лаборатория, по словам компании, уже сделала свое первое открытие.

Что именно обнаружила лаборатория Anthropic?

Чтобы понять, что именно сделала система Anthropic, представьте себе библиотеку с миллионами последовательностей ДНК, собранных учеными в процессе секвенирования живых организмов. Один из шагов к прорыву может заключаться в нахождении необычной последовательности, которая кодирует интересный фермент. Затем необходимо выяснить, что именно делает этот фермент, и, в конечном итоге, как его можно модифицировать для полезных целей. Согласно заявлению Anthropic, их система из 950 агентов за 21 час работы не нашла совершенно новую последовательность. Вместо этого агенты выделили повторяющийся паттерн вокруг известного фермента, который, по утверждению компании, ранее не был каталогизирован. В своем объявлении Anthropic называет этот паттерн "напоминающим" тот, который привел к созданию технологии редактирования генов CRISPR, уже изменившей науку и медицину. Это создает впечатление, что армия агентов действительно обнаружила нечто значительное.

Реакция научного сообщества

Однако такие заявления вызвали недовольство среди биологов. Один из них, опубликовавший вирусный пост, который затем поддержал председатель и генеральный директор фармацевтической компании Eli Lilly, отметил, что "нахождение странного кластера генов и повторов часто является простой задачей. Сложная часть, где происходят настоящие открытия, заключается в том, чтобы понять, что система на самом деле делает". Таким образом, агенты помогли с некоторой рутинной работой в лаборатории, но это не является настоящим открытием. Это подчеркивает, что даже если ИИ делает что-то впечатляющее, например, находит паттерн в массиве биологических данных, который трудно заметить человеческому глазу, сам результат может не считаться прорывом для науки. То, что ново для ИИ, может быть рутинным и незначительным для биолога.

Споры о первенстве открытия

Дополнительные сложности добавляет заявление Марио Родригеса Местре, биолога из Копенгагенского университета, который сообщил, что его команда уже обнаружила этот паттерн. Местре, который регулярно общался с Claude в своей работе, задался вопросом, не заимствовала ли команда Anthropic информацию из его разговоров. Хотя Anthropic это отрицает, Местре решил прекратить использование Claude.

Проблема восприятия ИИ в науке

Часть проблемы заключается в том, что компании, занимающиеся ИИ, не представляют свои системы просто как инструменты, которые могут использовать ученые, такие как микроскопы или суперкомпьютеры. Они настаивают на том, что ИИ-системы сами делают открытия. Для некоторых это противоречит тому, как наука на самом деле работает, поскольку новое знание обычно возникает в результате сотрудничества и использования все более широкого арсенала инструментов. Это также вызывает у людей скептицизм по поводу подлинного прогресса, когда он действительно происходит. Сокращение 200,000 кандидатов до нескольких, достойных изучения, — это не мелочь; это законная научная работа. Факт того, что общий чат-бот может выполнить эту работу, заслуживает внимания, даже если люди помогали ему и в конечном итоге проводили эксперименты.

Ожидания и стандарты

Однако, когда стандартом становится вопрос о том, сделало ли Claude открытие, все это становится доказательством одной из сторон в дебатах, которые имеют только два ответа: прорыв или провал. Когда мы оцениваем ИИ по тому, сделал ли он открытие, также возникает соблазн изменить критерии даже после того, как он действительно кажется достигшим успеха. Ранее в этом месяце OpenAI заявила, что ее агенты решили задачу, стоящую в миллион долларов, в математике. Но через пару недель почти каждый скептик ИИ в моем фиде делился статьей, задающей вопрос, действительно ли эта математическая задача имеет значение. Важно отметить, что статья не утверждала, что решение OpenAI было неправильным. Вместо этого она утверждала, что конкретный результат может не быть тем, что больше всего интересует математиков.

Заключение

Таким образом, критика, высказанная Лукасом Харрингтоном, биологом, написавшим пост с критикой объявления Anthropic, становится особенно актуальной. Он предложил: компании, занимающиеся ИИ, должны "установить высокую планку сейчас, чтобы, когда ИИ действительно откроет фундаментально новый биологический механизм, все оценили, насколько это важно". Однако в условиях гонки между Sam Altman из OpenAI и Dario Amodei из Anthropic, возможно, повышение стандартов для научных прорывов, достигнутых ИИ, не является приоритетом для них.