Sebastien Rousseau

PROMPT-ИНЖИНИРИНГ

Достижения в инженерии промптов ИИ

Как разговаривать с большими языковыми моделями

10 min read
Banner for: Достижения в инженерии промптов ИИ

TL;DR. Prompt-инжиниринг превратился из «нажать enter» в инженерную дисциплину с воспроизводимыми техниками: chain-of-thought, few-shot, RAG, структурированные выходы.

Ключевые выводы

  • Chain-of-thought. Просить модель «думать шаг за шагом» повышает качество ответов на сложных задачах.
  • Few-shot learning. Несколько примеров в подсказке резко улучшают качество специализированных задач.
  • RAG. Извлечение релевантных документов снижает галлюцинации и привязывает ответы к реальным источникам.
  • Структурированные ответы. Запрос JSON или функционального вывода делает интеграцию с системами надёжной.

Техника 1: chain-of-thought

Просить думать пошагово

Просто добавление в подсказку фразы «Давайте подумаем шаг за шагом» резко повышает качество на задачах, требующих рассуждений. Модель явно выписывает промежуточные шаги, и финальный ответ оказывается значительно точнее.

Техника 2: few-shot learning

Учиться на примерах

Вместо длинного описания того, что от модели требуется, проще показать 2–5 примеров желаемой работы: «вот вход — вот выход». Модель быстро схватывает паттерн.

Техника 3: retrieval-augmented generation (RAG)

Привязка к источникам

Чтобы снизить галлюцинации, RAG объединяет поиск по релевантным документам с генерацией: модель отвечает на основе найденных текстов, а не «по памяти». Это критично для банковских сценариев, где ответы должны быть прослеживаемы.

Техника 4: структурированные выходы

JSON mode и tool calling

Современные API поддерживают «JSON mode» и tool calling: модель гарантированно возвращает структурированный ответ, который можно напрямую обработать кодом. Это превращает LLM из текстового интерфейса в надёжный компонент системы.

Техника 5: системные подсказки

Установка роли и ограничений

Системная подсказка задаёт «роль» и ограничения для всего диалога: «Ты — финансовый ассистент банка. Отвечай только на вопросы, связанные с банковскими продуктами. Никогда не давай инвестиционных советов.»

Заключение

Prompt-инжиниринг — это инженерия, а не магия. Команды, освоившие систематический подход с тестами, версионированием и метриками качества, получают значительное преимущество в качестве LLM-приложений.

Последняя проверка .

Перепубликовать эту статью

Скопировать формат для Medium

# Достижения в инженерии промптов ИИ — Sebastien Rousseau

> Originally published at [https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/](https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/)

Современные техники prompt-инжиниринга для LLM: chain-of-thought, few-shot learning, retrieval-augmented generation и структурированные ответы.

Read the full article on sebastienrousseau.com: https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/

Скопировать формат для Mastodon

Достижения в инженерии промптов ИИ — Sebastien Rousseau

Современные техники prompt-инжиниринга для LLM: chain-of-thought, few-shot learning, retrieval-augmented generation и структурированные ответы.

https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/

Копировать в формате для LinkedIn

Достижения в инженерии промптов ИИ — Sebastien Rousseau

Современные техники prompt-инжиниринга для LLM: chain-of-thought, few-shot learning, retrieval-augmented generation и структурированные ответы.

Вот ключевые стратегические выводы:

- Техника 1: chain-of-thought. Просто добавление в подсказку фразы «Давайте подумаем шаг за шагом» резко повышает качество на задачах, требующих рассуждений.
- Техника 2: few-shot learning. Вместо длинного описания того, что от модели требуется, проще показать 2–5 примеров желаемой работы: «вот вход — вот выход».
- Техника 3: retrieval-augmented generation (RAG). Чтобы снизить галлюцинации, RAG объединяет поиск по релевантным документам с генерацией: модель отвечает на основе найденных текстов, а не «по памяти».
- Техника 4: структурированные выходы. Современные API поддерживают «JSON mode» и tool calling: модель гарантированно возвращает структурированный ответ, который можно напрямую обработать кодом.

Каков подход вашей организации к вызовам, описанным в этой статье?

→ https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/

#PromptИнжиниринг #Llm #ChainOfThought #FewShot #Rag

Sebastien Rousseau | CC-BY-4.0
Цитировать эту статью

Достижения в инженерии промптов ИИ — Sebastien Rousseau

Современные техники prompt-инжиниринга для LLM: chain-of-thought, few-shot learning, retrieval-augmented generation и структурированные ответы.

BibTeX

@online{rousseau2024достижения,
  author  = {Rousseau, Sebastien},
  title   = {{Достижения в инженерии промптов ИИ — Sebastien Rousseau}},
  year    = {2024},
  url     = {https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/},
  urldate = {2024}
}

RIS

TY  - GEN
AU  - Rousseau, Sebastien
TI  - Достижения в инженерии промптов ИИ — Sebastien Rousseau
PY  - 2024
UR  - https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/
ER  -

Vancouver

Rousseau S. Достижения в инженерии промптов ИИ — Sebastien Rousseau. sebastienrousseau.com. 2024 Jan 23. Available from: https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/

Chicago

Rousseau, Sebastien. "Достижения в инженерии промптов ИИ — Sebastien Rousseau." sebastienrousseau.com. January 23, 2024. https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/.

APA

Rousseau, S. (2024, January 23). Достижения в инженерии промптов ИИ — Sebastien Rousseau. sebastienrousseau.com. https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/

Опубликовать заново

Достижения в инженерии промптов ИИ — Sebastien Rousseau

Современные техники prompt-инжиниринга для LLM: chain-of-thought, few-shot learning, retrieval-augmented generation и структурированные ответы.

Эта статья распространяется по лицензии Creative Commons Attribution 4.0 International. При повторной публикации требуется указание канонической ссылки.

Достижения в инженерии промптов ИИ — Sebastien Rousseau

Современные техники prompt-инжиниринга для LLM: chain-of-thought, few-shot learning, retrieval-augmented generation и структурированные ответы.

Originally published at https://sebastienrousseau.com/ru/2024-01-23-dostizheniya-v-inzhenerii-promptov-ii/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.