ChatGPT: Кто создал, кому принадлежит и как развивалась нейросеть

Что такое ChatGPT и как расшифровывается название

ChatGPT — это чат-бот с искусственным интеллектом, разработанный компанией OpenAI. Он построен на архитектуре большой языковой модели GPT (Generative Pre-trained Transformer). Название состоит из двух частей: «Chat» (общение) и «GPT» (Generative Pre-trained Transformer). Generative означает способность создавать новый текст, Pre-trained — предварительное обучение на огромных массивах данных, а Transformer — тип нейросетевой архитектуры, лежащей в основе технологии. ChatGPT способен вести диалог, отвечать на уточняющие вопросы, признавать ошибки, отклонять неуместные запросы и генерировать развёрнутые ответы на самые разные темы — от программирования до творчества.

Кто создал ChatGPT: основатели OpenAI

ChatGPT создан американской компанией OpenAI, основанной в декабре 2015 года. В число основателей вошли Илон Маск, Сэм Альтман, Грег Брокман, Илья Суцкевер, Войцех Заремба и другие предприниматели и исследователи. Изначально OpenAI задумывалась как некоммерческая исследовательская лаборатория с миссией развивать искусственный интеллект на благо всего человечества. Основатели вложили в проект более 1 миллиарда долларов. Илон Маск покинул совет директоров в 2018 году, но к тому моменту компания уже набрала мощную команду исследователей. Ключевой фигурой в развитии стал Сэм Альтман, под руководством которого OpenAI превратилась в одну из самых дорогих технологических компаний мира.

Кому принадлежит ChatGPT: структура собственности

ChatGPT принадлежит компании OpenAI, которая состоит из двух юридических лиц: некоммерческой материнской организации OpenAI Inc. и коммерческой дочерней компании OpenAI LP. Такая структура была создана в 2019 году, когда стало ясно, что для развития больших языковых моделей требуются значительные финансовые ресурсы. Важным партнёром OpenAI стала корпорация Microsoft. В 2019 году Microsoft инвестировала 1 миллиард долларов, а в 2023 году объявила о многолетних многомиллиардных вложениях. Благодаря этому сотрудничеству ChatGPT получил доступ к облачной инфраструктуре Azure, что позволило обслуживать сотни миллионов пользователей. При этом Microsoft не владеет OpenAI, а является стратегическим инвестором и эксклюзивным лицензиатом некоторых технологий.

История развития: от GPT-1 до GPT-4

Путь к ChatGPT начался с первой версии GPT, представленной в июне 2018 года. Модель содержала 117 миллионов параметров и доказала работоспособность архитектуры Transformer для генерации текста. В феврале 2019 года вышла GPT-2 с 1,5 миллиарда параметров — качество текста значительно выросло, но компания не публиковала полную версию из опасений misuse. Настоящий прорыв произошёл в июне 2020 года с выходом GPT-3, содержащей 175 миллиардов параметров. Модель научилась переводить, писать код и отвечать на сложные вопросы без специального дообучения. Именно GPT-3 легла в основу первой публичной версии ChatGPT, запущенной 30 ноября 2022 года. В марте 2023 года вышла GPT-4, которая научилась работать с изображениями и показала результаты в верхних 10% на экзамене для адвокатов. Позднее появились версии GPT-4 Turbo и GPT-4o (omni) — мультимодальная модель с поддержкой голоса.

Как работает ChatGPT: обучение с подкреплением и обратная связь

ChatGPT обучен с использованием метода Reinforcement Learning from Human Feedback (RLHF). Процесс включает несколько этапов. Сначала модель проходит supervised fine-tuning: AI-тренеры играют роли пользователя и ассистента, составляя диалоги. Затем собираются данные для обучения модели вознаграждения: AI-тренеры ранжируют несколько вариантов ответов модели по качеству. На основе этих данных строится reward model, которая предсказывает, какой ответ предпочтительнее. Наконец, с помощью Proximal Policy Optimization (PPO) модель донастраивается так, чтобы максимизировать оценку от reward model. Такой подход позволяет ChatGPT давать более полезные, безопасные и правдоподобные ответы, а также отклонять неуместные запросы.

Ограничения и проблемы ChatGPT

Несмотря на впечатляющие возможности, ChatGPT имеет ряд ограничений. Модель иногда генерирует правдоподобные, но неверные или бессмысленные ответы — это связано с отсутствием источника истины в процессе RL-обучения. ChatGPT чувствителен к формулировке запроса: при незначительном перефразировании может дать совершенно другой ответ. Модель склонна к чрезмерной многословности и часто повторяет, что она языковая модель от OpenAI. Вместо того чтобы задавать уточняющие вопросы при неоднозначном запросе, модель обычно пытается угадать, что имел в виду пользователь. Также возможны вредоносные или предвзятые ответы, хотя OpenAI использует Moderation API для фильтрации. Разработчики продолжают работать над улучшением этих аспектов.

Другие продукты OpenAI: DALL-E, Whisper и Gym

Помимо ChatGPT, OpenAI создала ряд других инновационных продуктов. DALL-E — нейросеть для генерации изображений по текстовому описанию. Первая версия появилась в январе 2021 года, вторая (DALL-E 2) — в апреле 2022 года. Сервис способен создавать реалистичные и художественные изображения, редактировать существующие картинки, добавлять и удалять объекты. Whisper — технология распознавания речи, которая переводит аудио в текст, поддерживает множество языков и демонстрирует высокую точность даже при наличии шумов. Gym — платформа для обучения и тестирования алгоритмов машинного обучения с помощью виртуальных сред. Также существует проект Universe, который позволял алгоритмам взаимодействовать с сайтами, программами и видеоиграми для обучения более универсальным навыкам.

Перспективы развития: мультимодальность, специализация и безопасность

В ближайшие годы ожидается дальнейшее развитие технологий искусственного интеллекта. Одним из главных направлений станет более глубокое понимание контекста и причинно-следственных связей. Мультимодальность позволит моделям одновременно работать с текстом, видео, аудио, 3D-моделями и данными сенсоров. Появятся специализированные модели для конкретных отраслей — медицины, юриспруденции, инженерии, обученные на профессиональных данных. Также ожидается создание более эффективных и лёгких моделей, способных работать непосредственно на устройствах пользователей без подключения к облачным серверам. Вместе с тем возрастут требования к безопасности, защите данных и этическим аспектам использования ИИ. OpenAI продолжает собирать обратную связь от пользователей для улучшения системы.

Вопросы и ответы