ИИ и машинное обучение

Что такое LLM (большая языковая модель)?

LLM (Large Language Model, большая языковая модель) — это нейросеть, обученная на огромном количестве текстов, которая предсказывает следующий фрагмент текста. На LLM работают ChatGPT, Claude, Gemini и другие AI-ассистенты.

Принцип работы проще, чем кажется: модель получает текст, делит его на токены и предсказывает самый вероятный следующий токен. Повторяя это раз за разом, она составляет связный ответ. Всё «умение» модели — это миллиарды числовых параметров, настроенных так, чтобы предсказания имели смысл.

Модель не хранит документы и сама не ищет в интернете. Она работает только с тем, что помещается в её контекстное окно: текущий запрос, история разговора и переданные материалы. Чтобы дать модели доступ к свежим или внутренним данным, используют RAG или подключают инструменты.

Где применяется

В продуктах языковые модели подключают через API и используют для работы с текстом: сортировка обращений, извлечение данных из документов, перевод, краткое изложение, ответы на основе найденных материалов. Отдельное большое направление — код: объяснение, рефакторинг, написание тестов.

Для бизнеса важны три вещи: стоимость (оплата за обработанные токены), скорость ответа и предсказуемость. Поэтому в реальных решениях модель редко работает одна: её дополняют поиском по собственным данным, проверками формата и участием человека на важных этапах.

Пример

Компания передаёт модели текст входящего письма и просит вернуть JSON: тема, срочность, ответственный отдел, краткое содержание. Результат сразу попадает в CRM, а человеку остаётся проверить только спорные случаи вместо чтения всей переписки.

response = client.messages.create(
    model='claude-sonnet-5',
    max_tokens=500,
    system='Ты классифицируешь обращения клиентов. Отвечай только JSON.',
    messages=[{
        'role': 'user',
        'content': 'Не пришёл заказ №10427, оплата прошла три дня назад.'
    }],
)
print(response.content[0].text)

Запрос к модели через API: системная инструкция задаёт поведение, а сообщение пользователя — саму задачу.

LLM и AI — не одно и то же

AI — это вся отрасль, в том числе компьютерное зрение, рекомендательные системы и прогнозирование. LLM — один конкретный тип моделей в ней, который работает с языком. Каждая LLM относится к AI, но далеко не каждый AI — это LLM.

Частые вопросы

Как LLM на самом деле создаёт ответ?

Она по очереди предсказывает следующий токен на основе всего предыдущего текста. Готовых ответов внутри нет — есть статистика языка, усвоенная при обучении. Поэтому модель может уверенно сформулировать то, чего на самом деле не знает.

Знает ли модель свежие новости?

Сама — нет: её знания ограничены датой окончания обучения. Актуальные данные попадают в ответ двумя путями: через поиск в интернете, если сервис его поддерживает, или через передачу нужных документов прямо в запрос.

Какую языковую модель выбрать для задачи?

Ориентируются на три параметра: качество на ваших задачах, цена за токены и скорость ответа. Для массовой простой обработки берут более лёгкую модель, для сложного анализа и кода — самую мощную. Решает проверка на собственных примерах, а не рейтинги.

Безопасно ли передавать модели рабочие данные?

Зависит от условий сервиса: корпоративные тарифы обычно не используют ваши данные для обучения, бесплатные — могут. Персональные данные клиентов перед передачей обезличивают, а для особо чувствительных задач запускают модель на собственных серверах.

Обучение программированию в OWU

Освойте профессию в IT на практических курсах с менторами и реальными проектами.

Выбрать курс