Большие языковые модели умеют работать с текстом: пересказывать письма, составлять черновики, отвечать на вопросы и выполнять другие языковые задачи. Их ответы могут звучать очень убедительно, хотя модель способна ошибаться. Разберёмся, как она обучается, что происходит после отправки запроса и какую роль играют чат-боты и поиск.
Что называют большой языковой моделью
Сокращение LLM происходит от английского large language model — «большая языковая модель». Это один из видов машинного обучения, а машинное обучение относится к искусственному интеллекту. ИИ — более широкое понятие, которое включает разные обучаемые модели и системы, работающие по заранее заданным правилам.
«Большая» — характеристика масштаба модели. Один из главных показателей — количество параметров: числовых величин, которые настраиваются во время обучения и затем участвуют в обработке текста.
Обычной программе можно задать правило: если пользователь нажал кнопку, показать определённое сообщение.
Откуда LLM берёт способность работать с текстом
Во время базового обучения модель решает задачи, связанные с предсказанием элементов текста. Например, ей предлагают продолжить фрагмент или восстановить пропущенную часть. Способы обучения бывают разными: LLM могут учиться предсказывать продолжение, восстанавливать скрытые части текста и выполнять другие задачи.
Предсказание сравнивают с ожидаемым результатом, а ошибку используют для изменения параметров.
Как обучение формирует способность работать с текстом
Системе не нужно заранее знать готовый ответ на каждый возможный запрос. Во время обучения она настраивает параметры, которые затем использует при обработке нового текста. Некоторые LLM дополнительно обучают следовать инструкциям: отвечать на вопросы, соблюдать заданный формат или делать краткое изложение. Такой этап помогает модели лучше выполнять просьбы пользователя.
Во время обучения параметры модели меняются. Когда человек отправляет обычный запрос, LLM использует уже обученные параметры и информацию, переданную ей в текущем контексте. Новые сведения в запросе могут повлиять на ответ, но параметры модели при этом не переобучаются.
Как из запроса получается ответ
Представим просьбу: «Кратко перескажи письмо», за которой следует текст письма. Модели нужно учесть содержание письма и указание сделать пересказ коротким.
Текст превращается в токены
Сначала текст обрабатывается как последовательность токенов. Это небольшие единицы текста: токеном может быть слово, часть слова или символ — разбиение зависит от LLM. Поэтому можно сказать, что модель предсказывает следующее слово: единицей предсказания часто служит токен, который может быть меньше целого слова.
Что модель учитывает в запросе
Чтобы составить пересказ, LLM учитывает связи между частями доступного текста: просьбой пользователя, содержанием письма и уже написанной частью ответа.
Контекстное окно показывает, сколько информации модель может обработать в обращении. Это не все данные, на которых она обучалась, и не история всех разговоров с пользователем. Сохраняет ли приложение историю беседы и передаёт ли LLM сведения из прошлых сообщений, зависит от устройства сервиса. Даже информацию из текущего контекста модель может использовать ошибочно.
Как LLM формирует ответ
У распространённых генеративных моделей ответ строится постепенно. Модель оценивает возможные следующие токены с учётом запроса и уже написанного текста, выбирает один из них и добавляет к ответу. Затем снова оценивает варианты продолжения с учётом нового токена. Так текст формируется шаг за шагом.
Возможных продолжений обычно несколько. Способ выбора зависит от настроек и алгоритма генерации: модель может выбирать наиболее вероятный вариант или использовать вероятностный выбор. Поэтому при некоторых настройках ответы на одинаковый запрос могут отличаться.
Почему LLM — не то же самое, что чат-бот или поиск
Языковые модели применяют для разных текстовых задач: с их помощью составляют черновики, сокращают материалы, переводят тексты и отвечают на вопросы. Результат зависит от модели, языка и задачи.
Человек обычно взаимодействует с готовым приложением — например, с чат-ботом. В нём есть интерфейс для переписки, а также могут быть история разговора, настройки, память, поиск и другие инструменты. Языковая модель отвечает за обработку текста внутри такой системы. Возможности приложения определяются всеми его компонентами, поэтому по названию LLM нельзя определить, хранит ли сервис историю беседы или какие инструменты доступны пользователю.
Поиск работает с внешними источниками информации. Приложение может найти материалы в интернете или другой базе данных, передать их модели и попросить сформировать ответ с учётом найденной информации. Получение материалов и создание текста в такой системе выполняются на разных этапах.
Почему убедительный ответ может оказаться неверным
Вернёмся к письму. Модель может составить гладкий и короткий пересказ, но добавить деталь, которой в исходном тексте не было.
В ответах на вопросы о фактах ошибка может выглядеть так же убедительно: LLM сообщает неверное утверждение или придумывает недостающую подробность. Такие случаи называют галлюцинациями. Термин используют для разных типов ошибок, при которых модель создаёт правдоподобный, но недостоверный результат.
LLM умеет строить связный текст, а проверка истинности содержащихся в нём утверждений требует своего подхода.
Способность выполнять языковые задачи не позволяет сделать вывод о наличии у модели человеческого сознания или осознанного понимания своих действий.
Главное
Теперь соберём основные идеи в короткую памятку — она поможет быстро вспомнить, как устроена языковая модель и чего от неё ожидать.
- LLM — один из видов машинного обучения, которые работают с языком. Чат-бот может использовать такую систему как один из компонентов приложения.
- Во время обучения настраиваются параметры. При обычном запросе система использует уже полученные параметры и информацию из текущего контекста.
- Токены — единицы, с которыми работает система. Токен может быть словом, частью слова или отдельным символом.
- Контекстное окно ограничивает объём информации, который система может учитывать в одном обращении. История беседы и дополнительные функции приложения устроены отдельно.
- Многие генеративные системы создают текст постепенно, последовательно выбирая следующие токены с учётом уже написанной части ответа.
- Поиск и генерация текста могут работать вместе: приложение получает информацию из внешних источников, после чего использует её при формировании ответа.
- Убедительный текст не гарантирует точность. Важные факты стоит проверять по надёжным источникам.
