Губернатор Калифорнии Гэвин Ньюсом наложил вето на спорный законопроект о безопасности искусственного интеллекта — интернет-магазин в Новосибирске, Екатеринбурге

Ньюсом заявил, что будет работать с законодательным органом над законодательством об ИИ во время его следующей сессии.

Генеративный ИИ породил опасения, что он может превзойти людей и иметь катастрофические последствия

Губернатор Калифорнии Гэвин Ньюсом в воскресенье наложил вето на горячо оспариваемый законопроект о безопасности искусственного интеллекта после того, как технологическая индустрия выступила с возражениями, заявив, что он может вытеснить компании ИИ из штата и помешать инновациям.

Ньюсом сказал, что законопроект «не принимает во внимание, развернута ли система ИИ в условиях высокого риска, включает ли она принятие критически важных решений или использование конфиденциальных данных» и будет применять «строгие стандарты даже к самым базовым функциям — при условии, что ее развертывает крупная система».

Ньюсом сказал, что он попросил ведущих экспертов по генеративному ИИ помочь Калифорнии «разработать работоспособные ограждения», которые будут сосредоточены «на разработке эмпирического, научно обоснованного анализа траектории». Он также приказал государственным агентствам расширить свою оценку рисков потенциальных катастрофических событий, связанных с использованием ИИ.

Генеративный ИИ, который может создавать текст, фотографии и видео в ответ на открытые подсказки, вызвал волнение, а также опасения, что он может сделать некоторые рабочие места устаревшими, перевернуть выборы и потенциально превзойти людей и иметь катастрофические последствия.

Автор законопроекта, сенатор-демократ Скотт Винер, сказал, что законодательство необходимо для защиты общественности, прежде чем достижения в области ИИ станут либо громоздкими, либо неконтролируемыми. Индустрия ИИ быстро растет в Калифорнии, и некоторые лидеры сомневаются в будущем этих компаний в штате, если законопроект станет законом.

В воскресенье Винер заявил, что вето делает Калифорнию менее безопасной и означает, что «компании, стремящиеся создать чрезвычайно мощную технологию, не сталкиваются с обязательными ограничениями». Он добавил, что «добровольные обязательства со стороны промышленности не подлежат исполнению и редко приносят пользу общественности».

«Мы не можем позволить себе ждать, пока произойдет крупная катастрофа, прежде чем принять меры по защите населения», — сказал Ньюсом, но добавил, что не согласен: «Мы должны согласиться на решение, которое не основано на эмпирическом анализе траектории систем и возможностей ИИ».

Ньюсом сказал, что будет работать с законодательным органом над законодательством об ИИ во время его следующей сессии. Это произошло на фоне того, что принятие законодательства в Конгрессе США по установлению защитных мер застопорилось, а администрация Байдена продвигает предложения по нормативному надзору за ИИ.

Ньюсом сказал, что «подход, касающийся только Калифорнии, вполне может быть оправдан, особенно при отсутствии федеральных действий со стороны Конгресса».

Палата прогресса, коалиция технологической промышленности, высоко оценила вето Ньюсома, заявив, что «технологическая экономика Калифорнии всегда процветала за счет конкуренции и открытости».

Среди прочего, эта мера потребовала бы проведения испытаний на безопасность для многих самых передовых моделей ИИ, разработка которых стоит более 100 миллионов долларов (примерно 838 крор рупий) или тех, которые требуют определенного объема вычислительной мощности. Разработчикам программного обеспечения ИИ, работающим в штате, также пришлось бы описать методы отключения моделей ИИ, по сути, аварийный выключатель.

Законопроект предусматривал бы создание государственного органа для надзора за разработкой так называемых «пограничных моделей», которые превосходят возможности, имеющиеся в самых передовых существующих моделях.

Законопроект столкнулся с сильным противодействием со стороны широкого круга групп. Alphabet’s Google, поддерживаемая Microsoft OpenAI и Meta Platforms, все из которых разрабатывают генеративные модели ИИ, выразили свою обеспокоенность по поводу предложения.

Некоторые демократы в Конгрессе США, включая представителя Нэнси Пелоси, также выступили против него. Среди сторонников был генеральный директор Tesla Илон Маск, который также управляет фирмой ИИ под названием xAI. Компания Anthropic, поддерживаемая Amazon, заявила, что выгоды от законопроекта, вероятно, перевешивают издержки, хотя она добавила, что все еще есть некоторые аспекты, которые кажутся тревожными или неоднозначными.

Ньюсом отдельно подписал закон, требующий от штата оценить потенциальные угрозы, которые представляет собой генеративный ИИ для критической инфраструктуры Калифорнии.

Штат анализирует риски энергетической инфраструктуры и ранее созываемых поставщиков электроэнергии и проведет такую же оценку рисков с поставщиками водной инфраструктуры в следующем году, а позднее и с сектором связи, сказал Ньюсом.

(Эта история не была отредактирована сотрудниками NDTV и автоматически сгенерировано из синдицированного канала.)