Как устроен ChatGPT: архитектура, обучение и принципы работы нейросети

Что такое ChatGPT и как он работает

ChatGPT — это языковая модель, разработанная компанией OpenAI, которая взаимодействует с пользователем в формате диалога. Название расшифровывается как Generative Pre-trained Transformer (генеративный предварительно обученный трансформер). В основе ChatGPT лежит нейронная сеть, способная анализировать последовательности слов и предсказывать наиболее вероятное продолжение текста.

Важно понимать, что ChatGPT не обладает сознанием или пониманием смысла. Модель работает на основе вероятностных расчётов: она оценивает, какое слово или фраза с наибольшей вероятностью должны следовать за предыдущими, опираясь на огромный массив текстов, на которых она обучалась. Это позволяет ей генерировать связные и осмысленные ответы, но не гарантирует их фактическую точность.

Формат диалога даёт ChatGPT возможность задавать уточняющие вопросы, признавать ошибки, отклонять неуместные запросы и оспаривать неверные предпосылки. Однако на практике модель часто предполагает, что имел в виду пользователь, вместо того чтобы запросить уточнение.

Архитектура и обучение модели

ChatGPT относится к семейству моделей GPT-3.5, обучение которых завершилось в начале 2022 года. Модель была дообучена на суперкомпьютерной инфраструктуре Azure AI. Ключевой этап создания ChatGPT — обучение с подкреплением на основе отзывов человека (RLHF). Этот же метод использовался для модели InstructGPT, но с некоторыми отличиями в сборе данных.

Процесс обучения включал несколько этапов:

• Дообучение с учителем: тренеры ИИ вели диалоги, играя роли пользователя и ассистента. Им предоставлялись подсказки от модели для составления ответов. Полученный диалоговый набор данных объединили с набором InstructGPT, приведённым к диалоговому формату.
• Создание модели вознаграждения: для обучения с подкреплением требовались данные сравнения — два или более ответов модели, оценённых по качеству. Тренеры оценивали случайно выбранные сообщения модели и альтернативные варианты завершения.
• Дообучение с помощью Proximal Policy Optimization (PPO): используя модель вознаграждения, модель дообучали методом PPO. Этот процесс повторялся несколько итераций для улучшения качества ответов.

Ограничения и слабые места ChatGPT

Несмотря на впечатляющие возможности, ChatGPT имеет ряд существенных ограничений, о которых важно знать:

• Галлюцинации: модель иногда пишет правдоподобные, но неверные или бессмысленные ответы. Это связано с тем, что в обучении с подкреплением отсутствует абсолютный источник истины, а также с тем, что модель может отклонять вопросы, на которые способна ответить правильно, из-за стремления к осторожности.
• Чувствительность к формулировкам: при одной формулировке вопроса ChatGPT может заявить, что не знает ответа, но при небольшой перефразировке ответить верно. Это делает результаты нестабильными.
• Излишняя многословность: модель часто повторяет определённые фразы (например, «как языковая модель, обученная OpenAI») и даёт чрезмерно длинные ответы. Это следствие предвзятости данных обучения — тренеры предпочитали более полные ответы.
• Неспособность задавать уточняющие вопросы: в идеале модель должна просить уточнения при неоднозначном запросе, но на практике она обычно предполагает, что имел в виду пользователь.
• Уязвимость к вредоносным инструкциям: несмотря на фильтры, ChatGPT иногда может отвечать на вредные запросы или проявлять предвзятость. OpenAI использует Moderation API для блокировки небезопасного контента, но возможны как ложноположительные, так и ложноотрицательные срабатывания.

Тарифные планы и доступные возможности

OpenAI предлагает несколько вариантов доступа к ChatGPT, различающихся по функционалу и стоимости:

• Бесплатный тариф: предоставляет доступ к базовой версии на модели GPT-3.5. Пользователи могут общаться, использовать некоторые инструменты и GPT. Модель по умолчанию и лимиты могут меняться.
• ChatGPT Plus (20 долларов в месяц): включает приоритетный доступ, более быстрые ответы, ранний доступ к обновлениям и возможность использовать GPT-4. Подписчики также получают доступ к функциям вроде просмотра веб-страниц через Bing и плагинам.
• ChatGPT Team (25 долларов в месяц при годовой оплате): ориентирован на небольшие команды, предоставляет рабочее пространство для совместной работы и доступ к более крупным моделям OpenAI.
• ChatGPT Enterprise (цена по запросу): предназначен для бизнеса, включает дополнительные улучшения безопасности, административный контроль и расширенные возможности.
• ChatGPT Pro: платный тариф с расширенными функциями для профессионалов.

По данным Bloomberg на январь 2024 года, 260 корпоративных клиентов подписались на ChatGPT Enterprise. Цены и доступные функции могут меняться, поэтому перед выбором тарифа стоит изучить актуальные условия на официальном сайте.

Как зарегистрироваться и начать использовать ChatGPT

Для начала работы с ChatGPT необходимо:

1. Перейти на сайт chatgpt.com.
2. Создать аккаунт, указав адрес электронной почты.
3. Подтвердить email.
4. Ввести имя и номер телефона для верификации.

После регистрации можно сразу начать общение в бесплатной версии. Для доступа к расширенным функциям потребуется оформить подписку.

ChatGPT также доступен в виде мобильных приложений:

• iOS: выпущено 18 мая 2023 года. Приложение синхронизирует историю чатов на всех устройствах, интегрировано с системой распознавания речи Whisper. Пользователи ChatGPT Plus получают эксклюзивный доступ к функциям GPT-4 и более быстрое время отклика.
• Android: выпущено 25 июля 2023 года. На момент запуска приложение было доступно в США, Индии, Бангладеш и Бразилии, с последующим расширением на другие страны.

Для использования мобильных приложений требуется учётная запись OpenAI.

Практические советы по составлению запросов

Качество ответов ChatGPT напрямую зависит от того, как сформулирован запрос (промпт). Вот несколько рекомендаций:

• Формулируйте чётко и лаконично: избегайте двусмысленных фраз. Чем точнее запрос, тем выше вероятность получить нужный ответ.
• Предоставляйте контекст: если задача сложная, опишите ситуацию, укажите целевую аудиторию или желаемый стиль ответа.
• Используйте точные ключевые слова: они помогают модели быстрее понять суть запроса.
• Экспериментируйте с формулировками: если ответ не устраивает, попробуйте перефразировать вопрос. Как отмечалось, модель чувствительна к формулировкам.
• Разбивайте сложные задачи на шаги: вместо одного общего запроса задавайте серию уточняющих вопросов.
• Указывайте формат ответа: например, «ответь в виде списка», «напиши код на Python» или «дай краткое резюме».

Эти советы помогут получить более релевантные и полезные ответы, особенно при работе с бесплатной версией на GPT-3.5.

Дополнительные функции: голос, изображения, анализ данных

ChatGPT постоянно расширяет функционал. Среди ключевых дополнительных возможностей:

• Голосовое управление (ChatGPT Voice): с 21 ноября 2023 года функция стала доступна всем пользователям. Можно задавать вопросы вслух и получать голосовые ответы.
• Работа с изображениями: пользователи Plus и Enterprise могут загружать изображения и задавать вопросы на их основе. Также доступно создание изображений с помощью DALL-E 3, все сгенерированные изображения содержат метаданные C2PA — стандарт водяных знаков, указывающий на генерацию ИИ.
• Анализ данных: ChatGPT может проверять загруженные данные, создавать таблицы и диаграммы, выполнять анализ, подкреплённый кодом. Функция доступна в рамках подписки.
• Просмотр веб-страниц через Bing: пользователи Plus и Enterprise могут использовать Bing для поиска актуальной информации прямо в интерфейсе ChatGPT. Функция вышла из бета-версии 17 октября 2023 года.
• Интерпретатор кода: встроенный плагин, позволяющий ChatGPT выполнять код Python в изолированной среде для анализа данных, решения математических задач, создания диаграмм и редактирования файлов. Доступен пользователям ChatGPT Plus с 6 июля 2023 года.
• Плагины: сторонние расширения, которые можно активировать по запросу. Магазин плагинов содержит более 70 плагинов, расширяющих возможности ChatGPT.

Эти функции делают ChatGPT не просто чат-ботом, а многофункциональным инструментом для работы и творчества.

Безопасность, конфиденциальность и управление данными

OpenAI уделяет внимание безопасности и конфиденциальности пользователей. Вот основные аспекты:

• Moderation API: используется для предупреждения или блокировки небезопасного контента. Однако возможны как ложноположительные, так и ложноотрицательные срабатывания.
• Управление памятью: ChatGPT может сохранять информацию из чатов для улучшения ответов. Пользователь может отключить эту функцию или попросить модель «забыть» определённые данные.
• Экспорт и удаление данных: можно экспортировать историю чатов, удалять или архивировать отдельные разговоры. Загруженные файлы также подлежат удалению.
• Родительский контроль: для подростков предусмотрены возрастные ограничения и возможность связать учётную запись с родительским контролем.
• Доверенные контакты: функция позволяет назначить доверенное лицо, которое сможет получить доступ к аккаунту в экстренных случаях.
• Программа вознаграждений за обнаружение ошибок: запущена 12 апреля 2023 года. Размер вознаграждения составляет от 200 до 20 000 долларов в зависимости от критичности уязвимости. OpenAI не заинтересована в проблемах с контентом, а ищет уязвимости в аутентификации, утечках данных, проблемах с платежами и безопасности плагинов.

Пользователям рекомендуется регулярно проверять настройки конфиденциальности и ознакомиться с политикой хранения чатов и файлов.

Будущее ChatGPT и развитие технологий

OpenAI продолжает активно развивать ChatGPT и связанные технологии. Среди последних нововведений:

• GPT-4 Turbo: представлена 6 ноября 2023 года для пользователей ChatGPT Plus. Модель обладает более широкими знаниями и улучшенной производительностью.
• Кастомные GPT: пользователи могут создавать собственные версии ChatGPT для специальных задач без навыков программирования. Разработчики могут определять действия и подключать API. Корпоративные клиенты могут использовать GPT в своих организациях.
• GPT Store: платформа для просмотра и использования GPT, запущенная в январе 2024 года. Пользователи могут выбирать GPT через символ @ в чате.
• Интеграция с Microsoft: ChatGPT интегрирован в поисковую систему Bing и Microsoft 365. Salesforce добавила ChatGPT в свои CRM-платформы в качестве цифрового помощника Einstein.
• Обновления API: 13 июня 2023 года OpenAI добавила вызов функций в API завершения чата, что позволяет разработчикам создавать более продвинутых чат-ботов с возможностью вызова внешних плагинов и обработки естественного языка.

Несмотря на прогресс, многие ограничения, такие как галлюцинации и чувствительность к формулировкам, остаются. OpenAI планирует регулярно обновлять модель и призывает пользователей делиться отзывами о проблемных результатах через интерфейс.

Вопросы и ответы