ИИ в науке: риски "Миссии Генезис" Трампа

Инициатива "Миссия Генезис", предложенная Дональдом Трампом, обещает революционизировать научные исследования с помощью искусственного интеллекта. Цель – ускорить прогресс в таких областях, как робототехника, биотехнологии и термоядерный синтез. Концепция предполагает создание системы, где ИИ самостоятельно проектирует эксперименты, проводит их, анализирует результаты и предлагает новые направления исследований, что должно значительно повысить продуктивность в научно-исследовательской сфере, финансируемой государством.

Этот подход соответствует мировым тенденциям: многие страны, включая Великобританию, активно инвестируют в применение ИИ в науке, опираясь на успехи, такие как AlphaFold от DeepMind, способный предсказывать структуру белков и уже применяемый в биологии и разработке лекарств.

Однако уроки из философии науки показывают, что "автоматизация открытий" – задача гораздо более сложная и рискованная, чем кажется на первый взгляд. Философ Карл Поппер описывал науку как процесс "смелых гипотез и суровых попыток их опровержения". Открытия начинаются с обнаружения аномалий – явлений, которые трудно объяснить существующими теориями. Затем исследователи формулируют новые гипотезы для решения этой головоломки. Философы называют этот процесс "абдукцией" – выводом к наилучшему объяснению, а не простым экстраполированием данных.

Современные системы ИИ, основанные на больших языковых моделях, имитируют некоторые аспекты абдуктивного рассуждения. Тем не менее, им не хватает опыта, практических знаний и ситуационного понимания, которые используют ученые при переформулировании проблем или определении новых аномалий. Машины преуспевают в выявлении закономерностей в данных, но наиболее значимые научные достижения часто возникают, когда исследователи замечают то, что данные упускают, или когда игнорируемое ранее расхождение становится ключом к новому направлению исследований.

Даже после появления новой идеи ученым приходится выбирать, какие теории развивать и куда инвестировать ограниченные ресурсы. Эти решения зависят не только от непосредственной эмпирической отдачи, но и от таких качеств, как согласованность с другими идеями, простота, глубина объяснения или потенциал для открытия новых плодотворных исследовательских программ. Эти критерии невозможно свести к строгим правилам. Попытка упростить их до измеримых показателей может привести к приоритезации проектов, дающих краткосрочные результаты, в ущерб спекулятивным, но потенциально трансформирующим исследованиям. Также существует риск игнорирования гипотез, бросающих вызов существующему положению дел.

Обоснование – больше, чем просто данные

Ученые оценивают конкурирующие теории с помощью доказательств, но философы давно отмечают, что одних доказательств редко бывает достаточно для однозначного вывода. Множество несовместимых теорий могут соответствовать одним и тем же данным, что требует от ученых взвешивания плюсов и минусов каждой теории, рассмотрения их основополагающих предположений и обсуждения, требуют ли аномалии дополнительных данных или изменения парадигмы.

Полная автоматизация этого этапа чревата проблемами, поскольку алгоритмические системы принятия решений склонны скрывать свои предположения и сжимать сложные компромиссы в бинарные результаты: одобрить или отклонить, пометить или проигнорировать. Голландский скандал с детскими пособиями в 2021 году продемонстрировал, как это может проявляться в государственной политике. Алгоритм оценки рисков "выдвигал гипотезы" и "оценивал", какие семьи мошенничают для получения пособий. Эти "обоснованные" выводы были переданы в автоматизированные рабочие процессы, которые требовали возврата средств, погрузив множество невинных семей в финансовый крах.

"Миссия Генезис" предлагает привнести аналогичные формы автоматизации в научные процессы принятия решений. Например, это может позволить ИИ-агентам определять достоверность результатов, избыточность экспериментов и прекращать определенные направления исследований. Это вызывает опасения, что мы можем не знать, почему агент пришел к тому или иному заключению, существует ли предвзятость в его программировании и scrutinizes ли кто-то этот процесс.

Наука как организованное убеждение

Еще один урок из философии и истории науки заключается в том, что сбор данных – лишь половина дела; ученым также необходимо убеждать друг друга в достоверности своих утверждений. Австрийский философ Пол Фейерабенд показал, как даже такие выдающиеся фигуры, как Галилей, стратегически выбирали язык, аудиторию и риторический стиль для продвижения новых идей. Это не означает, что наука – это пропаганда; суть в том, что знания принимаются через аргументацию, критику и суждение со стороны коллег-ученых.

Если системы ИИ начнут генерировать гипотезы, проводить эксперименты и даже писать статьи с минимальным участием человека, возникают вопросы о том, кто фактически несет ответственность за убеждение научного сообщества в данной области. Будут ли журналы, рецензенты и финансирующие организации так же скептически относиться к аргументам, созданным фундаментальными моделями, как и к авторам-людям? Или аура машинной объективности затруднит оспаривание ошибочных методов и предположений, глубоко укоренившихся в процессе?

Рассмотрим AlphaFold, часто приводимый как доказательство того, что ИИ способен "решать" крупные научные проблемы. Эта система действительно трансформировала структурную биологию (изучение форм живых молекул), предоставляя высококачественные предсказания для огромного количества белков. Это значительно снизило барьер для изучения того, как структура белка влияет на его функцию.

Тем не менее, тщательные оценки подчеркивают, что эти результаты следует рассматривать как "ценные гипотезы": весьма информативные отправные точки, которые все еще требуют экспериментального подтверждения. Предложения в стиле "Генезис" рискуют чрезмерно обобщать такие успехи, забывая, что наиболее научно полезные системы ИИ работают именно потому, что они встроены в управляемые человеком исследовательские экосистемы, а не потому, что они самостоятельно управляют лабораториями.

Защита того, что делает науку особенной

Научные институты возникли отчасти для того, чтобы отобрать авторитет у непрозрачных традиций, каст жрецов и харизматичных целителей, заменяя апелляции к мистике общепринятыми стандартами доказательств, методов и критики. Однако в научной практике всегда присутствовала определенная романтика: истории моментов "эврики", споры о конкурирующих теориях и коллективные усилия по осмыслению сопротивляющегося мира. Эта романтика – не просто украшение; она отражает человеческие способности – любопытство, смелость, упрямство, воображение – которые движут исследования вперед.

Автоматизация науки в том виде, как это предполагает "Генезис", рискует свести эту практику к тому, что можно уловить в наборах данных, функциях потерь и графах рабочих процессов. Более ответственный путь предполагает рассмотрение ИИ как набора мощных инструментов, которые остаются прочно встроенными в человеческие сообщества исследователей. Они должны поддерживать, но никогда не заменять собой сложные, спорные и зачастую непредсказуемые процессы, посредством которых научное знание создается, оспаривается и, в конечном итоге, заслуживает доверия.