Интернет-магазин MagazinWeb

Магазин GPT OpenAI сталкивается с проблемами со спамом, выдачей себя за другое лицо и незаконными ботами

GPT Store OpenAI наполнен гуманизирующими ботами, которые заявляют, что устраняют плагиат на основе ИИ.

OpenAI’s GPT Store Runs Into Trouble With Spam, Impersonation, and Unlawful Bots

GPT Store был запущен в январе 2024 года, чтобы пользователи могли создавать собственных чат-ботов

Advertisement

OpenAI имеет большую проблему со спамом и нарушением политики в своем магазине GPT. Компания, занимающаяся искусственным интеллектом, представила свой GPT Store в январе 2024 года как место, где пользователи могут найти интересные и полезные GPT, которые по сути представляют собой мини-чат-боты, запрограммированные для конкретной задачи. Разработчики могут создавать и отправлять свои GPT на платформу, и, если они не нарушают какие-либо политики и рекомендации OpenAI, они добавляются в магазин. Однако оказывается, что правила не соблюдаются строго, и многие GPT, которые кажутся нарушающими правила, наводняют платформу.

Мы в Gadgets 360 провели быстрый поиск на платформе GPT Store и обнаружили, что рынок чат-ботов заполнен ботами, которые рассылают спам или иным образом нарушают политику компании, занимающейся искусственным интеллектом. Например, политика использования OpenAI в разделе «Создание с помощью ChatGPT» в пункте 2 гласит: «Не выполняйте и не содействуйте следующим действиям, которые могут существенно повлиять на безопасность, благополучие или права других лиц, в том числе», а затем добавляется подраздел (b) «Предоставление индивидуальных юридических, медицинских/медицинских или финансовых консультаций». Однако при вводе слова «юрист» появляется чат-бот под названием Legal+, в описании которого говорится: «Ваш личный ИИ-адвокат. Предоставляет юридические консультации в режиме реального времени по повседневным проблемам, создает шаблоны юридических контрактов и т. д. гораздо больше!»

Пример просто показывает одно из многих подобных нарушений политики, происходящих на платформе. Политика использования также запрещает «Выдавать себя за другое физическое лицо или организацию без согласия или законного права» в пункте 3 (b), но можно легко найти «Илона Мууска» с добавленной дополнительной буквой «u», которая, вероятно, позволит избежать обнаружения. В его описании просто написано «Поговорите с Илоном Маском». Помимо этого, другие чат-боты, которые заходят в серую зону, включают GPT, которые утверждают, что устраняют плагиат на основе искусственного интеллекта, делая текст более человечным, и чат-боты, которые создают контент в стиле Disney или Pixar.

<стр>Эти проблемы с GPT Store были впервые обнаружены TechCrunch, который также обнаружил другие примеры выдачи себя за другое лицо, в том числе чат-боты, которые позволяют пользователям разговаривать с персонажами, защищенными товарными знаками, такими как Варио, популярный персонаж видеоигры, и «Аанг из Аватара: Повелитель стихий». В беседе с адвокатом в отчете подчеркивается, что, хотя OpenAI не может нести ответственность за нарушение авторских прав разработчиками, добавляющими этих чат-ботов в США, в соответствии с Законом об авторском праве в цифровую эпоху, создатели могут столкнуться с судебными исками.

<ул> <ли> Google DeepMind представляет TacticAI, инструмент искусственного интеллекта для угловых ударов в футболе <ли> Раскрыты основные характеристики OnePlus Ace 3V; Цена просочилась перед запуском

В своей политике использования OpenAI заявила: «Мы используем сочетание автоматизированных систем, человеческого анализа и пользовательских отчетов для поиска и оценки GPT, которые потенциально нарушают нашу политику. Нарушения могут привести к действиям против контента или вашей учетной записи, таким как предупреждения, ограничения на обмен или лишение права на включение в магазин GPT или монетизацию». Однако, согласно нашим выводам и отчету TechCrunch, похоже, что системы не работают должным образом.

Является ли Samsung Galaxy Z Flip 5 лучшим складным телефоном, который вы можете купить? купите в Индии прямо сейчас ? Мы обсуждаем новый складной телефон компании в стиле раскладушки в последнем выпуске подкаста Orbital подкаста Gadgets 360. Orbital доступен на Spotify, Gaana, JioSaavn, Google Podcasts, Apple Podcasts, Amazon Music и везде, где вы берете свои подкасты.
Партнерские ссылки может генерироваться автоматически — подробности см. в нашем этическом заявлении.