
На прошлой неделе я отправился в отель в Маунтин-Вью, Калифорния, расположенный в 30 милях к югу от Сан-Франциско, чтобы встретиться с одними из самых выдающихся и многообещающих исследователей в области искусственного интеллекта. Я принимал участие в круглых столах и медиа-тренингах в рамках программы Schmidt Sciences AI2050, инициированной Эриком и Уэнди Шмидт, которая поддерживает ученых, работающих в области ИИ. Список участников программы включает в себя множество известных ученых, и хотя не все смогли приехать в залив, каждый раз, когда я поворачивал за угол, я встречал ученого, с которым ранее общался, или чье исследование вызывало у меня восхищение. Академические исследователи в области ИИ сейчас находятся в непростой ситуации. За последние четыре года исследования в этой области переориентировались вокруг крупных языковых моделей (LLM), и передовой опыт переместился из университетов в частные компании. Университеты не могут позволить себе графические процессоры (GPU), необходимые для обучения и работы с передовыми моделями. Даже если бы они могли, такие компании, как Anthropic и OpenAI, не позволяют другим видеть внутренние детали своих моделей, таких как Claude или ChatGPT. Во время обеда Ника Хагталаб, профессор компьютерных наук в Университете Калифорнии в Беркли, отметила, что быть академическим исследователем в области ИИ сейчас похоже на то, как если бы биологи жили в мире, где частные компании контролируют инструменты редактирования генов, такие как CRISPR. Эксперты, находящиеся вне передовых лабораторий, могут изучать поведение ChatGPT и Claude, но не могут проводить детальные исследования их дизайна и обучения, а также не могут влиять на этот процесс. Программа AI2050 предоставляет участникам финансирование, которое они могут использовать для покупки GPU, что, по словам некоторых исследователей, является значительным преимуществом участия в программе. Однако финансовые вопросы остаются актуальными, особенно на фоне сокращения федерального финансирования науки в США. Даже для тех, кто не запускает локальные модели, стоимость многократных запросов к моделям OpenAI, Anthropic и Google для их тщательного изучения может быть непомерно высокой. Вместо того чтобы сосредотачиваться на повышении возможностей, многие участники программы направляют свое внимание на вопросы, которые вряд ли будут решены такими компаниями, как Anthropic или OpenAI. "Я стараюсь не работать над проблемами, которые, как я думаю, будут решены технологической компанией", — говорит Анжали Филд, профессор компьютерных наук в Университете Джонса Хопкинса. Компании должны зарабатывать деньги, и исследовательские вопросы, которые не обещают прибыли, могут не стоить инвестиций, особенно если их ответы могут негативно сказаться на репутации компаний. Недавно Филд провела исследование, в котором обнаружила, что языковые модели дают менее сложные ответы на запросы, сформулированные в манере, более характерной для женщин, чем для мужчин. Трудно представить, что подобное исследование могло бы выйти из лабораторий Anthropic или OpenAI. Существует также большая группа академиков в области ИИ, которые вообще не работают с LLM. Многие из них создают специализированные модели ИИ, которые могут анализировать данные, делать полезные прогнозы или даже моделировать целые физические системы. Эти исследователи не обязательно конкурируют с передовыми лабораториями — команда AlphaFold компании Google DeepMind, создавшая модель, удостоенную Нобелевской премии за предсказание структуры белков, была распущена в прошлом месяце. Однако они сталкиваются с собственными вызовами. На встрече несколько исследователей выразили обеспокоенность тем, как широкое незнание о не-LLM ИИ влияет на их работу. Например, ученые, создающие специализированные инструменты ИИ для борьбы с изменением климата, иногда испытывают трудности с продвижением своих разработок, когда многие люди считают, что "ИИ" означает "энергоемкие LLM". Все эти вызовы меняют ландшафт академической науки: несколько известных ученых недавно взяли отпуск из своих университетов, чтобы присоединиться к передовым лабораториям, и многие участники AI2050 занимают должности в индустрии наряду с академической работой. За последние шесть месяцев возникла еще одна угроза. Модели OpenAI решили ряд реальных исследовательских задач в математике, и некоторые эксперты беспокоятся о том, что у людей может не быть будущего в чистой математике. Одна из участниц программы выразила обеспокоенность по поводу психического здоровья своих коллег-математиков. Тем не менее, не все так мрачно. Во-первых, эмпирическая наука может оказаться гораздо более сложной для автоматизации, чем математика, поскольку сбор данных — это по своей сути медленный процесс. Некоторые исследователи рассматривают ИИ-математиков и ученых как благо, а не угрозу, включая Тима Деттмерса, компьютерного ученого из Университета Карнеги-Меллона, который работает над тем, чтобы сделать модели ИИ быстрее и дешевле в использовании. По словам Деттмерса, ИИ-ученые не заменят людей. Напротив, они могут сделать человеческих ученых гораздо более эффективными, предоставляя им возможность заниматься всеми теми дикими и вдохновляющими идеями, которые они иначе могли бы никогда не реализовать. Ученые — это стойкие люди. Ограничения ресурсов, которые мешают им обучать передовые модели, также побуждают их находить новые способы создания более компактных и эффективных моделей или исследовать совершенно новые архитектуры. Если следующий крупный прорыв в области ИИ произойдет не в крупной компании, а в маленькой академической лаборатории, это меня не удивит.
Комментарии (0)