ChatGPT получает «полезного, честного и безобидного» ИИ-конкурента по имени Клод Оставить комментарий
Claude обрабатывает вредные, неприятные и вредоносные запросы, объясняя свои возражения против них.
Компания Anthropic, занимающаяся исследованиями и безопасностью в области искусственного интеллекта, только что выпустила своего помощника по искусственному интеллекту нового поколения под названием Claude(Открывается в новом окне).
Claude является конкурентом ChatGPT от OpenAI, который уже вызвал негативные заголовки. Тем не менее, Клод разработан, чтобы быть другим, с упором на то, чтобы быть «полезным, честным и безобидным», при этом ему удается выполнять все задачи, которые вы ожидаете от помощника ИИ (например, обобщение, поиск, творчество и совместная работа). написание, ответы на вопросы и программирование).
Как сообщает Reuters(Открывается в новом окне), Anthropic была основана бывшими руководителями OpenAI Дарио и Даниэлой Амодеи при поддержке Alphabet. Причина, по которой Клод отличается от других и на него можно положиться как на полезного и заслуживающего доверия человека, заключается в том, что ИИ был снабжен списком правил/принципов и обучен путем самосовершенствования. Это метод, известный как «Конституционный ИИ (откроется в новом окне)».
Как поясняет Anthropic:
«Процесс включает в себя как контролируемое обучение, так и фазу обучения с подкреплением. На контролируемом этапе мы берем образцы из исходной модели, затем генерируем самокритику и исправления, а затем настраиваем исходную модель на измененных ответах. На этапе RL мы делаем выборки. из точно настроенной модели используйте модель для оценки того, какой из двух образцов лучше, а затем обучайте модель предпочтений на основе этого набора данных о предпочтениях ИИ. Затем мы тренируемся с RL, используя модель предпочтений в качестве сигнала вознаграждения, то есть мы используем «RL от AI Feedback (RLAIF).”
Конечный результат позволяет Claude реагировать на вредные, неприятные и даже злонамеренные запросы пользователей, «объясняя им свои возражения». Таким образом, Клод может давать честные ответы, не производя никаких вредных последствий. Это очень привлекательная функция для компаний, которые хотят использовать ИИ, но обеспокоены тем, что им можно злоупотреблять и потенциально нанести ущерб их бренду или репутации.
Сегодня Anthropic предлагает две версии своего помощника по искусственному интеллекту под названием Claude и Claude Instant. Клод — это современная высокопроизводительная модель, которая может стать «восхитительным представителем компании, научным сотрудником, творческим партнером, автоматизатором задач» и многим другим, с возможностью настройки личности, тона и поведения. Claude Instant просто легче, дешевле и намного быстрее, оптимизирован для случаев использования с низкой задержкой и высокой пропускной способностью. Цена обоих указана за миллион символов(открывается в новом окне).
ChatGPT В машине? General Motors сигнализирует о том, что это может произойти ChatGPT против Google Search: кто из них умнее в очной битве? Китайский ответ ChatGPT называется «Эрни»
Клод уже используется Quora в своем приложении Poe AI Chat, образовательной онлайн-компанией Juni Learning для работы с обучающим ботом Discord, Notion для повышения производительности пользователей, DuckDuckGo для DuckAssist , и Робином ИИ для оценки частей юридических контрактов.
Ассистент ИИ продолжает развиваться и улучшаться, и Anthropic планирует выпустить обновления в ближайшие недели. Только время покажет, насколько безобидным окажется ИИ-помощник, поскольку пользователи, без сомнения, будут тщательно его тестировать, как и в случае с ChatGPT.