Технологическая политика в современном мире часто определяется минимальными стандартами безопасности. Например, компании, занимающиеся искусственным интеллектом, могут обещать, что их чат-боты не будут способствовать самоубийству, а социальные сети делают труднее доступ к опасным веществам, таким как фентанил. Эти меры, безусловно, важны и должны были быть внедрены давно. Однако такие компании могут легко преодолеть эти низкие барьеры, продолжая производить продукты, которые делают молодежь зависимой от имитации дружбы или затягивают их в бесконечные ленты новостей, созданные для того, чтобы удерживать их внимание. Исторически сложилось так, что обсуждение технологий часто сосредоточено на самых негативных последствиях, которые могут возникнуть от использования продукта, в то время как повседневный вред, который он наносит, остается вне поля зрения. В эпоху мощных AI-продуктов мы должны требовать от технологической индустрии большего, чем просто устранение катастрофических последствий. Необходимо принимать меры, чтобы гарантировать, что их продукты не подрывают наше мышление, обучение и взаимодействие друг с другом. Подросток, который развивает нездоровую привязанность к AI-компаньону, может никогда не стать объектом судебного разбирательства или новостной статьи, за исключением самых крайних случаев. То же самое касается студента, который начинает полагаться на чат-бота для написания всех своих работ, или молодого человека, который измеряет свою жизнь по ленте социальных сетей, созданной для того, чтобы вызывать зависть и удерживать его внимание. Продукт может соответствовать всем узким требованиям безопасности и все же ухудшать нашу культуру в целом, что не всегда попадает в заголовки новостей. Узкое определение успеха, основанное на безопасности, удобно для технологической индустрии, и компании активно продвигают такие определения. Предотвращение катастрофических последствий выгодно с точки зрения бизнеса: это может означать меньше судебных исков и меньше давления на серьезное регулирование. Однако столкновение с повседневными последствиями зависимости потребует гораздо более серьезных мер, которые могут угрожать их прибыли. Это может означать необходимость добавления "трения" в их продукты или активное ограничение вовлеченности и функций, которые приводят к негативным последствиям, таким как алгоритмы, вызывающие зависимость. Технологические гиганты вместо этого работают над формированием законодательства, касающегося тех вредов, на которые они уже подвергаются давлению. Например, в этом году Google поддержал законопроекты, регулирующие AI-чат-ботов в нескольких штатах. Эти законы предусматривали базовые меры защиты от сексуального контента и пропаганды самоубийств, которые технологические компании должны были установить независимо, но с широкими исключениями, которые могли освободить некоторые из самых популярных сервисов. Принятие этих законов позволило законодателям заявить о победе в области безопасности, в то время как усилия по продвижению более строгого законодательства — законов, направленных на предотвращение эмоциональной зависимости детей от AI — потерпели неудачу. Мы уже проходили через подобные ситуации с социальными сетями. В глобальном масштабе пользователи интернета теперь проводят в среднем более двух часов в день на платформах социальных сетей — время, которое было тихо отнято у обычной жизни и передано компаниям, чья прибыль зависит от того, чтобы удерживать нас там. Никто, кроме, возможно, нескольких CEO технологических компаний, не хотел, чтобы эти алгоритмы занимали такую значительную часть нашего бодрствования, и их культурное воздействие может на самом деле способствовать насилию в разрушительных масштабах. Платформы Meta были упомянуты как способствующие геноциду рохинджа в Мьянме, анти-мусульманским беспорядкам в Шри-Ланке и предполагаемым призывам к насилию во время войны в Тиграе в Эфиопии. Те же стимулы действуют в лентах, формирующих понимание молодежью политики, их сверстников и более широкого мира. Искусственный интеллект расширяет эту логику на те аспекты жизни, которые социальные сети могли влиять только дистанционно. Он предлагает писать наши мысли за нас и заменять людей, к которым мы могли бы обратиться. Одна треть подростков теперь выбирает обсуждать серьезные вопросы с AI-компаньонами вместо других людей. Исследователи MIT обнаружили, что молодые люди, использующие ChatGPT для написания эссе, показывали более слабую связь между нейронами во время выполнения задания, и их доказательства указывали на то, что "когнитивный долг" сохранялся даже после завершения задания. Мы еще многого не знаем о долгосрочных последствиях. У нас уже есть причины задаться вопросом, не подрывает ли технология, рекламируемая как способствующая нашей способности, привычки и отношения, которые помогают нам развивать эти способности. Если следовать этой логике до логического конца, мы получим мир идеально очищенных развлечений, с чат-ботами, готовыми избавить нас от трудностей мышления или взаимодействия с чувствами других людей (или даже нашими собственными). Но любой, кто когда-либо пытался написать что-то стоящее или восстановить поврежденную дружбу, знает, сколько теряется в этой сделке. Мы формируем суждения через усилия и трение, и учимся жить с другими людьми, сталкиваясь с тем фактом, что у них есть свои потребности и мнения. Мы должны требовать безопасности как минимум, да, — и затем требовать гораздо большего. Технологические компании и школьные округа должны продемонстрировать безусловную уверенность в том, что AI улучшает обучение и критическое мышление, прежде чем делать его неотъемлемой частью учебных заведений. Компании должны быть запрещены разрабатывать компаньонов, которые притворяются сознательными или выражают любовь пользователям, и они должны подвергаться независимому контролю за тем, как их системы влияют на отношения и способность людей мыслить самостоятельно. Компании, которые внедрили свои продукты в почти каждую часть современной жизни, заслужили обязательства, гораздо более значительные, чем просто избегание следующего ужасного заголовка.