Интернет-магазин MagazinWeb

Доктор Джой Буоламвини об искусственном интеллекте и технологиях дипфейка: «Глубоко беспокоит то, насколько доступны эти инструменты»

Dr Joy Buolamwini on AI and deepfake tech: ‘It’s deeply concerning how accessible these tools are’

Ученый-компьютерщик и цифровой активист рассказывает журналу GLAMOUR о предвзятости, присущей кодированию и ИИ, о том, как технологии используются для причинения вреда маргинализированным людям, и о том, что мы можем с этим сделать сообща.

Такое ощущение, что ИИ появился из ниоткуда и как-то захватил власть, не так ли?? Он повсюду, куда бы мы ни посмотрели: от Google, предлагающего ответы на ИИ (иногда с смехотворно нелепыми результатами), до виртуальных помощников, помогающих нам с онлайн- шоппинг.<стр>Но для людей из мира технологий, таких как доктор Джой Буоламвини, этот взрыв ИИ в нашей повседневной жизни был долгожданным. Еще в 2015 году, когда Apple впервые выпустила Apple Watch, а Instagram только набирал популярность как платформа, доктор Джой была в своей комнате в общежитии Массачусетского технологического института (MIT), уже борясь с некоторыми проблемами, которые может представлять ИИ. «Я не осознавала, как давно это было!» — смеется она, когда мы общаемся в Zoom. «Область, которую я любила, не любила меня в ответ».

Dr Joy Buolamwini on AI and deepfake tech: ‘It’s deeply concerning how accessible these tools are’

Работая над проектом для получения степени магистра, доктор Джой обнаружила, что технология распознавания лиц не может распознать ее темное лицо. Решив добиться прогресса, она схватила белую маску на Хэллоуин со своего стола и надела ее. Невероятно, но программное обеспечение теперь узнало ее.

Это был момент, который изменил все для доктора Джой. Это была успешная женщина в STEM, которая должна была носить маску на Хэллоуин, чтобы технология распознавания лиц могла ее увидеть. «Кодирование в whiteface было последним, чего я ожидала, когда пришла в MIT», — пишет она в своей книге Unmasking AI: My Mission To Protect What Is Human In A World of Machines. «Но ≠ к лучшему или к худшему — я столкнулась с тем, что я теперь называю «кодированным взглядом».

Конечно, ИИ'не только о расе и поле. Но когда дело доходит до решений, которые меняют жизнь, для которых используется ИИ, например, для профилирования полицией или для поиска работы, нам нужно убедиться, что эти инструменты искусственного интеллекта не предвзяты. И доктор Джой обнаружил, что они являются. На самом деле, искусственный интеллект'не просто отражает предубеждения; он их усиливает и усиливает.

«Я часто думаю об использовании ИИ, когда речь идет о системе уголовного правосудия», — рассказал доктор Джой журналу GLAMOUR. «В Великобритании столичная полиция провела проверки, которые выявили различия в том, кого помечали как подозреваемых».

В мае 2024 года британская женщина была ошибочно идентифицирована как воровка с помощью технологии распознавания лиц AI в магазине Home Bargains. Ее сумку обыскала охрана, ее вывели из магазина и сообщили, что теперь ей запрещен вход во все магазины. Все это произошло, хотя женщина, которая предпочла остаться анонимной, никогда ничего не крала.

Компания FaceWatch, которая управляет программным обеспечением для распознавания лиц, написала женщине, чтобы признать свою ошибку, но ущерб уже был нанесен, и она боялась, что ее жизнь уже никогда не будет прежней.

Для женщин, в частности, одним из самых коварных и опасных применений ИИ является использование технологии deepfake. Что невероятно поразительно, так это то, что отчет за 2023 год показал, что 98% видео deepfake в Интернете являются deepfake порнографией, и 99% этих видео нацелены на женщин. «Часть разговора о предвзятости ИИ и вреде ИИ заключается в том, что никто не застрахован», — говорит доктор Джой в интервью GLAMOUR. «Любой, у кого есть базовое подключение к Интернету и немного времени, может создавать эти фотореалистичные изображения. Глубоко волнует, насколько доступны эти инструменты».

В том же отчете за 2023 год было установлено, что создание 60-секундного откровенно сексуального deepfake-видео с кем-либо60~/em>, использующего всего одно четкое изображение лица, занимает менее 25 минут (то есть даже не полэпизода Bridgerton) и не стоит абсолютно ничего. «Теперь, когда deepfake стали такими дешевыми и простыми в производстве, должны быть реальные последствия и сдерживающие факторы», — говорит доктор Джой. «Я бы призвал технологические компании работать лучше, и должны быть правовые последствия».

Dr Joy Buolamwini on AI and deepfake tech: ‘It’s deeply concerning how accessible these tools are’

Но хотя может показаться, что ИИ — неудержимый монстр, такие люди, как доктор Джой, работают над тем, чтобы он использовался во благо. Во время нашей беседы стало ясно, насколько она увлечена и взволнована будущим ИИ и ее уверенностью в нашей коллективной силе позитивно его формировать. «Я хочу напомнить людям, что у нас есть свобода действий. Мы можем формировать будущее», — говорит доктор Джой. «Я хочу видеть технологию, которая хорошо работает для всех нас, а не только для немногих привилегированных. У нас есть голос и у нас есть выбор.”

От молодой девушки, увлеченной роботами, до ведущего голоса в этике ИИ, путь доктора Джой является одновременно мощным и вдохновляющим. Она прошла путь от студентки Массачусетского технологического института, обнаружившей, что технология распознавания лиц дискриминирует ее как темнокожую женщину, до разработки новаторских исследований, которые подчеркивают эту предвзятость и заставляют людей, находящихся у власти, обращать на нее внимание. Ее новаторское исследование «Оттенки пола» выявило предвзятость по полу и типу кожи в коммерческих продуктах ИИ и заставило такие компании, как Google и Microsoft, не только обратить внимание, но и принять меры.<стр>В 2016 году доктор Джой основала Лигу алгоритмического правосудия (AJL) для борьбы за справедливый ИИ. AJL стремится обеспечить работу ИИ для всех, используя исследования, эксперименты и рекомендации для активизации действий среди политиков как в правительстве, так и в коммерческих предприятиях. Доктор Джой показывает нам, как технологии могут быть силой добра, и как каждый может иметь в этом участие.

«В AJL у нас есть платформа для сообщения о вреде для людей, которые подверглись дипфейкам или знают других, кто подвергся», — объясняет доктор Джой. «Или если вы видите выпуск инструмента, который действительно проблематичен, или даже если вы находитесь внутри компании и видите что-то, о чем, по вашему мнению, следует сообщить».

Доктор Джой объясняет, как каждый может влиять на технологию ИИ и направлять ее. «Вы можете подумать, что у вас нет технического образования или языка для понимания, но вам это не нужно», — говорит она. «Если у вас пытливый ум и заботливое сердце, это все, что вам нужно, чтобы стать частью этого движения за алгоритмическую справедливость».

«Я хочу призвать людей понять, что их истории имеют значение. Вы не одиноки».

Бестселлер доктора Джой Буоламвини «Разоблачение ИИ: Моя миссия по защите человеческого в мире машин» доступен в мягкой обложке на ее веб-сайте. Вы можете посмотреть ее документальный фильм «Закодированное предубеждение» на Netflix.