Роботы, обученные на искусственном интеллекте, продемонстрировали расистское и сексистское поведение

В рамках недавнего эксперимента ученые попросили специально запрограммированных роботов сканировать блоки с лицами людей, а затем поместить «преступника» в коробку. Роботы неоднократно выбирали блок с лицом чернокожего мужчины.

По мнению исследователей, эти виртуальные роботы, которые были запрограммированы с помощью популярного алгоритма искусственного интеллекта, сортировали миллиарды изображений и связанных с ними подписей, чтобы ответить на этот и другие вопросы, и могут представлять собой первое эмпирическое свидетельство того, что роботы могут быть сексистскими и расистскими. Снова и снова роботы реагировали на такие слова, как «домохозяйка» и «уборщик», выбирая блоки с изображениями женщин и цветных людей.

Исследование, опубликованное в прошлом месяце и проведенное такими учреждениями, как Университет Джонса Хопкинса и Технологический институт Джорджии, показывает, что расистские и сексистские предубеждения, заложенные в системах искусственного интеллекта, могут трансформироваться в роботов, которые используют их для управления своей деятельностью.

Компании вкладывают миллиарды долларов в разработку большего количества роботов, которые помогут заменить людей для таких задач, как заполнение полок, доставка товаров или даже уход за пациентами больниц. Эксперты описывают текущую атмосферу в робототехнике, усугубленную пандемией и вызванной ею нехваткой рабочей силы, чем-то вроде золотой лихорадки. Но специалисты по технической этике и исследователи предупреждают, что быстрое внедрение новой технологии может привести к непредвиденным последствиям в будущем, поскольку технология станет более продвинутой и повсеместной.

«При программировании часто вы просто создаете новое программное обеспечение поверх старого», — сказал Зак Стюарт Роджерс, профессор управления цепочками поставок из Университета штата Колорадо. «Итак, когда вы дойдете до того момента, когда роботы будут делать больше… и они будут построены на основе ошибочных корней, вы наверняка увидите, что мы сталкиваемся с проблемами».

Когда Walmart обращается к роботам, именно люди чувствуют себя машинами

Исследователи за последние годы задокументировали множество случаев предвзятости алгоритмов искусственного интеллекта. Сюда входят алгоритмы прогнозирования преступлений, несправедливо нацеленные на чернокожих и латиноамериканцев за преступления, которых они не совершали, а также системы распознавания лиц, которым трудно точно идентифицировать цветных людей.

Но до сих пор, по словам исследователей, роботы избегали большей части этого внимания и воспринимались как более нейтральные. Частично это связано с иногда ограниченным характером задач, которые они выполняют: например, перемещение товаров по складу.

Абеба Бирхане, старший научный сотрудник Mozilla Foundation, изучающий расовые стереотипы в языковых моделях, говорит, что роботы все еще могут работать на аналогичных проблемных технологиях и демонстрировать плохое поведение.

«Когда дело доходит до роботизированных систем, они потенциально могут сойти за объективные или нейтральные объекты по сравнению с алгоритмическими системами», — сказала она. «Это означает, что ущерб, который они наносят, может оставаться незамеченным в течение длительного времени».

Между тем, ожидается, что к концу десятилетия индустрия автоматизации вырастет с $18 млрд до $60 млрд, во многом благодаря робототехнике, сказал Роджерс. По данным отраслевой торговой группы Material Handling Institute, в ближайшие пять лет использование роботов на складах, вероятно, увеличится на 50 и более процентов. В апреле Amazon вложила 1 миллиард долларов в инновационный фонд, который активно инвестирует в компании, занимающиеся робототехникой. (Основатель Amazon Джефф Безос владеет The Washington Post.)

Команда исследователей, изучающих искусственный интеллект в роботах, в которую входили представители Вашингтонского университета и Мюнхенского технического университета в Германии, обучила виртуальных роботов CLIP, большой языковой модели искусственного интеллекта, созданной и представленной OpenAI в прошлом году.

Популярная модель, которая визуально классифицирует объекты, создана путем сбора миллиардов изображений и текстовых подписей из Интернета. Несмотря на то, что робототехнические компании все еще находятся на ранних стадиях разработки, для компаний, занимающихся робототехникой, использовать его дешевле и менее трудоемко, чем создавать собственное программное обеспечение с нуля, что делает его потенциально привлекательным вариантом.