ИИ становится умнее, безопаснее и нагляднее с обновлением GPT-4, заявляет OpenAI Оставить комментарий
Выступление генерального директора OpenAI Сэма Альтмана в феврале.
Во вторник самая популярная технология искусственного интеллекта была значительно обновлена: выпуск OpenAI GPT-4 теперь доступен в премиум-версии чат-бота ChatGPT.
GPT-4 может генерировать гораздо более длинные текстовые строки и реагировать, когда люди загружают в него изображения, и он разработан, чтобы лучше справляться с ловушками искусственного интеллекта, видимыми в более ранней версии GPT-3.5, заявила во вторник OpenAI. Например, при сдаче адвокатских экзаменов, которые адвокаты должны сдать для того, чтобы заниматься юридической практикой, GPT-4 входит в первые 10 % баллов по сравнению с нижними 10 % для GPT-3.5, сообщает исследовательская компания AI.
GPT расшифровывается как Generative Pretrained Transformer, отсылка к тому факту, что он может генерировать текст самостоятельно — теперь до 25 000 слов с GPT-4 — и что он использует технологию искусственного интеллекта, называемую трансформаторами, которую впервые применил Google. Это тип ИИ, называемый большой языковой моделью, или LLM, который обучается на обширных массивах данных, собранных из Интернета, обучаясь математическим методам выявления закономерностей и воспроизведения стилей. Наблюдатели-люди оценивают результаты, чтобы направить GPT в правильном направлении, и GPT-4 имеет больше таких отзывов.
OpenAI уже много лет делает GPT доступным для разработчиков, но ChatGPT, дебютировавший в ноябре, предлагает простой интерфейс, который могут использовать обычные люди. Это вызвало взрыв интереса, экспериментов и опасений по поводу недостатков технологии. Он может делать все: от генерации программного кода и ответов на экзаменационные вопросы до написания стихов и предоставления основных фактов. Это замечательно, хотя и не всегда надежно.
ChatGPT бесплатен, но может давать сбои при высоком спросе. В январе OpenAI начал предлагать ChatGPT Plus за 20 долларов в месяц с гарантированной доступностью, а теперь и с базой GPT-4. Разработчики могут зарегистрироваться в списке ожидания, чтобы получить собственный доступ к GPT-4.
Улучшения GPT-4
«В непринужденной беседе разница между GPT-3.5 и GPT-4 может быть едва уловимой. Разница проявляется, когда сложность задачи достигает достаточного порога», — сказал OpenAI. «GPT-4 более надежен, креативен и способен обрабатывать гораздо более тонкие инструкции, чем GPT-3.5».
Еще одним важным достижением GPT-4 является возможность принимать входные данные, включая текст и фотографии. Например, OpenAI просит чат-бота объяснить шутку, показывающую громоздкий компьютерный кабель десятилетней давности, подключенный к крошечному порту Lightning современного iPhone. Эта функция также помогает GPT проходить не только текстовые тесты, но пока недоступна в ChatGPT Plus.
Еще одна функция — повышение производительности, позволяющее избежать проблем с искусственным интеллектом, таких как галлюцинации – неправильно сфабрикованные ответы, часто предлагаемые с столько же кажущегося авторитета, сколько и ответов, которые ИИ получает правильно. GPT-4 также лучше справляется с попытками заставить его сказать что-то не то: «GPT-4 показывает на 40 % больше, чем наш последний GPT-3.5, согласно нашим внутренним состязательным оценкам достоверности», — сообщает OpenAI.
GPT-4 также добавляет новые параметры «управляемости». Пользователи больших языковых моделей сегодня часто должны заниматься сложной «инженерией подсказок», изучая, как встраивать определенные подсказки в свои подсказки, чтобы получить правильные ответы. В GPT-4 добавлен параметр системной команды, который позволяет пользователям задавать определенный тон или стиль, например программный код или сократовский репетитор: «Вы репетитор, который всегда отвечает в сократовском стиле. Вы никогда не даете ученику ответа, но всегда постарайтесь задать правильный вопрос, чтобы помочь им научиться думать самостоятельно».
«Стохастические попугаи» и другие проблемы
OpenAI признает существенные недостатки, которые сохраняются в GPT-4, однако он также рекламирует прогресс, избегая их.
«Иногда он может делать простые логические ошибки… или быть слишком доверчивым, принимая очевидные ложные утверждения от пользователя. А иногда он может потерпеть неудачу при решении сложных проблем так же, как это делают люди, например, вводя уязвимости безопасности в код, который он создает», — OpenAI. сказал. Кроме того, «GPT-4 также может уверенно ошибаться в своих прогнозах, не заботясь о перепроверке работы, когда она может допустить ошибку».
Большие языковые модели могут давать впечатляющие результаты, кажущиеся понимать огромное количество предметов и разговаривать на человеческом, хотя и несколько неестественном языке. Однако, по сути, ИИ LLM ничего не знают. Они просто могут связывать слова статистически очень тонкими способами.
Этот статистический, но по своей сути несколько пустой подход к знаниям побудил исследователей, в том числе бывших исследователей искусственного интеллекта Google Эмили Бендер и Тимнита Гебру, предупредить об «опасности стохастических попугаев», которые сопровождают большие языковые модели. ИИ языковой модели, как правило, кодируют предубеждения, стереотипы и негативные настроения, присутствующие в обучающих данных, а исследователи и другие люди, использующие эти модели, склонны «ошибочно принимать… прирост производительности за реальное понимание естественного языка».
Генеральный директор OpenAI Сэм Альтман признает наличие проблем, но в целом доволен прогрессом, достигнутым с GPT-4. «Он более креативен, чем предыдущие модели, у него значительно меньше галлюцинаций и он менее предвзят. Он может сдать экзамен на адвоката и получить 5 баллов на нескольких экзаменах AP», — написал во вторник Альтман в Твиттере.
Одна из опасений по поводу ИИ заключается в том, что студенты будут использовать его для обмана, например, при ответах на вопросы эссе. Это реальный риск, хотя некоторые преподаватели активно используют LLM в качестве инструмента, такого как поисковые системы и Википедия. Компании по обнаружению плагиата адаптируются к ИИ, обучая свои собственные модели обнаружения. Одна из таких компаний, Crossplag, заявила в среду, что после тестирования около 50 документов, сгенерированных GPT-4, «наш уровень точности превысил 98,5%».
Партнерство OpenAI, Microsoft и Nvidia
OpenAI получил большой импульс, когда Microsoft заявила в феврале, что использует технологию GPT в своей поисковой системе Bing, включая функции чата, аналогичные ChatGPT. Во вторник Microsoft заявила, что использует GPT-4 для работы с Bing. Вместе OpenAI и Microsoft представляют серьезную поисковую угрозу для Google, но у Google также есть собственная технология большой языковой модели, в том числе чат-бот Bard, который Google тестирует в частном порядке.
Также во вторник Google объявил об этом. начнет ограниченное тестирование собственной технологии искусственного интеллекта, чтобы ускорить написание электронных писем Gmail и текстовых документов Google Docs. «Вместе с вашим партнером по ИИ вы можете продолжать совершенствовать и редактировать, получая дополнительные предложения по мере необходимости», — сообщает Google.
Эта формулировка отражает «второстепенное» позиционирование Microsoft технологии искусственного интеллекта. Называть это помощью в работе под руководством человека — обычная позиция, учитывая проблемы технологии и необходимость тщательного человеческого контроля.
Microsoft использует технологию GPT как для оценки поисковых запросов, которые люди вводят в Bing, так и, в некоторых случаях, для предоставления более сложных диалоговых ответов. Результаты могут быть гораздо более информативными, чем у более ранних поисковых систем, но более разговорный интерфейс, который можно вызвать как опцию, имеет проблемы, из-за которых он выглядит неуправляемым.
Для обучения GPT OpenAI использовал Microsoft Azure. служба облачных вычислений, включающая тысячи графических процессоров Nvidia A100 или графических процессоров, соединенных вместе. Azure теперь может использовать новые процессоры Nvidia H100, которые включают в себя специальные схемы для ускорения вычислений преобразователя ИИ.
Чат-боты ИИ повсюду
Другой крупный разработчик языковых моделей, Anthropic, также представил во вторник чат-бота с искусственным интеллектом по имени Claude. Компания, которая считает Google инвестором, открыла список ожидания для Клода.
«Клод способен выполнять широкий спектр задач в диалоговом режиме и обработке текста, сохраняя при этом высокую степень надежности и предсказуемости», — отмечает Anthropic. говорится в сообщении в блоге. “Клод может помочь с вариантами использования, включая обобщение, поиск, творческое и совместное написание, вопросы и ответы, кодирование и многое другое.”
Это один из растущей толпы. Китайский поисковый и технический гигант Baidu работает над чат-ботом под названием Ernie Bot. Meta, материнская компания Facebook и Instagram, объединила свои операции с ИИ в более крупную команду и планирует встроить более генеративный ИИ в свои продукты. Даже Snapchat вступает в игру с чат-ботом на основе GPT под названием My AI.
В будущем ожидаются дополнительные усовершенствования.
“Мы прошли начальное обучение GPT-4. сделано довольно давно, но нам потребовалось много времени и много работы, чтобы почувствовать себя готовыми выпустить его», — написал Альтман в Твиттере. «Надеемся, вам понравится, и мы очень ценим отзывы о его недостатках».
Примечание редактора: CNET использует механизм искусственного интеллекта для создания пояснений по личным финансам, которые редактируются и проверяются наши редакторы. Дополнительную информацию см. в этом сообщении.