Почему искусственный интеллект должен понимать последствия

Нил Сэвидж — писатель-фрилансер из Лоуэлла, штат Массачусетс.

Вы также можете найти этого автора в PubMed Google Scholar.

Кредит: Нил Уэбб

У вас есть полный доступ к этой статье через ваше учреждение.

Когда Рохит Бхаттачарья начал свою докторскую диссертацию в области компьютерных наук, его целью было создание инструмента, который мог бы помочь врачам выявлять людей с раком, которые хорошо реагируют на иммунотерапию. Эта форма лечения помогает иммунной системе организма бороться с опухолями и лучше всего действует против злокачественных новообразований, которые производят белки, с которыми могут связываться иммунные клетки. Идея Бхаттачарьи заключалась в создании нейронных сетей, которые могли бы профилировать генетику как опухоли, так и иммунной системы человека, а затем предсказывать, какие люди, скорее всего, выиграют от лечения.

Но он обнаружил, что его алгоритмы не справляются с этой задачей. Он мог идентифицировать образцы генов, которые коррелировали с иммунным ответом, но этого было недостаточно1. «Я не могу сказать, что этот конкретный образец связывания или эта специфическая экспрессия генов являются причинно-следственной детерминантой реакции пациента на иммунотерапию», — объясняет он.

Часть Nature Outlook: Робототехника и искусственный интеллект

Бхаттачарья был загнан в тупик извечным изречением о том, что корреляция не равна причинно-следственной связи — фундаментальному камню преткновения в искусственном интеллекте (ИИ). Компьютеры можно научить выявлять закономерности в данных, даже закономерности, которые настолько незаметны, что люди могут их не заметить. И компьютеры могут использовать эти закономерности для прогнозирования — например, что пятно на рентгенограмме легких указывает на опухоль2. Но когда дело доходит до причины и следствия, машины обычно теряются. Им не хватает здравого понимания того, как устроен мир, которое люди имеют, просто живя в нем. Например, программы искусственного интеллекта, обученные обнаруживать заболевания на рентгеновских снимках легких, иногда сбиваются с пути, ориентируясь на маркировку, используемую для обозначения правой части изображения3. Очевидно, по крайней мере для человека, что между стилем и расположением буквы «R» на рентгеновском снимке и признаками заболевания легких не существует причинно-следственной связи. Но без этого понимания любых различий в том, как нарисованы или расположены такие маркировки, может быть достаточно, чтобы направить машину по неправильному пути.

Чтобы компьютеры могли принимать какие-либо решения, им потребуется понимание причинно-следственной связи, говорит Мурат Коджаоглу, инженер-электрик из Университета Пердью в Уэст-Лафайете, штат Индиана. «Все, что выходит за рамки предсказания, требует какого-то причинно-следственного понимания», — говорит он. «Если вы хотите что-то спланировать, если вы хотите найти лучшую политику, вам нужен какой-то модуль причинно-следственных рассуждений».

Включение моделей причины и следствия в алгоритмы машинного обучения также может помочь мобильным автономным машинам принимать решения о том, как им ориентироваться в мире. «Если вы робот, вы хотите знать, что произойдет, если вы сделаете шаг сюда под тем или иным углом или если толкнете объект», — говорит Коджаоглу.

В случае Бхаттачарьи вполне возможно, что некоторые из генов, которые выделяла система, были ответственны за лучший ответ на лечение. Но отсутствие понимания причинно-следственной связи означало, что также возможно, что лечение влияло на экспрессию генов или что на оба фактора влиял другой, скрытый фактор. Потенциальное решение этой проблемы лежит в так называемом причинном выводе — формальном математическом способе выяснить, влияет ли одна переменная на другую.

Ученый-компьютерщик Рохит Бхаттачарья (сзади) и его команда из колледжа Уильямс в Уильямстауне, штат Массачусетс, обсуждают адаптацию машинного обучения для причинно-следственных выводов. Фото: Марк Хопкинс

Причинно-следственная связь уже давно используется экономистами и эпидемиологами для проверки своих идей о причинно-следственной связи. Нобелевскую премию по экономике 2021 года получили три исследователя, которые использовали причинно-следственные связи, чтобы задать такие вопросы, как, например, приводит ли более высокая минимальная заработная плата к снижению занятости или какое влияние окажет дополнительный год обучения на будущие доходы. Теперь Бхаттачарья входит в число растущего числа ученых-компьютерщиков, которые работают над объединением причинно-следственной связи с искусственным интеллектом, чтобы дать машинам возможность решать такие вопросы, помогая им принимать более правильные решения, более эффективно учиться и адаптироваться к изменениям.