Prompt engineering

Prompt Engineering означає просто ставити AI правильні запитання. Prompt — це ваш ввід з вашим запитом або проханням.

Prompt engineering полягає у тому, що ми вигадуємо цілеспрямовані запитання та підказки, щоб допомогти моделям штучного інтелекту дати правильні відповіді під час чатів. З кращими промптами ви получите кращі результати.

Разом з характеристиками обраної моделі, це визначає якість відповіді.

Елементи промпу (запиту)

Щоб отримати кращі результати, слід звертати увагу на такі пункти:

• Мета: що саме ви хочете від мовної моделі?
• Роль: яку роль має мовна модель? (наприклад, «Маркетинговий аналітик», «Юридичний консультант», «Координатор проекту»)
• Контекст: фонові відомості щодо запиту (наприклад, цілі компанії, деталі проекту, ринкова інформація)
• Стиль: який стиль ви хочете застосовувати? (наприклад, формальний, переконливий, лаконічний)
• Вивід: який формат ви хочете? (наприклад, звіт, лист, конспект презентації, фрагмент коду)

Мета

Точно сформульована мета вашого запиту є суттєвою і не може бути опущена.

Що ви хочете дізнатися?

• Фактологічне запитання може бути, але майте на увазі обмеження (наприклад, відсутність актуальних знань)
• Так само, як у Google, ви не отримаєте точнічно такий же відповідь, якщо запит повторювати
• Перевага — функція “chat”, завдяки якій можна ставити додаткові запитання

Приклад промпу з чіткою метою:

Prompt з тільки метою

Дайте опис основних викликів при впровадженні нової платформи AI в середньої величини компанії.

Впровадження нової платформи AI в середній компанії несе різні виклики. Деякі з основних викликів:

1. Супротив змінам: Співробітники звикли до існуючих процесів і систем. Нова платформа AI вимагає адаптації і може викликати опір, особливо якщо вплив на робочі процеси неясний.
2. Якість та доступність даних: Платформи AI значною мірою залежать від даних. Збір, очищення та структуризація даних для нової платформи може бути складним і тривалим процесом.
3. Інтеграція з існуючими системами: Платформа AI часто повинна інтегруватися з іншими бізнес-застосунками (ERP, джерела даних, BI-інструменти). Це може викликати технічні труднощі.
4. Витрати: Крім ліцензійних витрат, існують витрати на впровадження, навчання, інфраструктуру даних та, можливо, залучення спеціалізованого персоналу.
5. Навчання та прийняття: Співробітникам потрібно навчитися користуватися новою платформою і тлумачити вихідні дані. Без належного навчання та постійної підтримки рівень прийняття може залишатися низьким.
6. Вибір правильної платформи та кейсів використання: Є багато платформ та технологій AI. Вкрай важливий вибір платформи та визначення релевантних кейсів використання, що відповідають потребам та стратегічним цілям компанії.
7. Етичні міркування та відповідність вимогам: Залежно від застосування платформи AI можуть з’являтися етичні питання та вимоги до відповідності (наприклад, AVG/GDPR), які потрібно обговорювати.

Роль та контекст

Додавання ролі та контексту забезпечує кращі та більш конкретні відповіді.

Приклад того ж запиту з роллю та контекстом:

Prompt з метою, роллю та контекстом

Як менеджер проекту, відповідальний за впровадження нової платформи AI для аналізу даних та оптимізації процесів у B2B-сервісі з 150 працівниками, дайте опис основних викликів та можливих стратегій пом’якшення.

Як менеджер проекту з впровадження нової платформи AI для аналізу даних та оптимізації процесів у B2B-сервісі з 150 працівниками, я бачу такі важливі виклики та можливі стратегії пом’якшення:

1. Супротив змінам & прийняття користувачами:
   • Виклик: Працівники, зокрема ті, чиї завдання безпосередньо пов’язані, можуть бути стриманими до зміни звичних способів роботи та використання нових AI-інсайтів.
   • Мітігейшн: Залучайте ключових користувачів на ранньому етапі. Чітко комунікуйте переваги (ефективність, кращі рішення, нові інсайти). Забезпечте розгорнуте навчання за ролями та постійну підтримку. Призначте “AI-чемпіонів” в підрозділах.
2. Якість даних, управління даними та міграція даних:
   • Виклик: Ефективність платформи залежить від високоякісних даних. Дані з існуючих систем часто непослідовні, неповні або некоректні.
   • Мітігейшн: Розпочніть з аудиту даних, визначте framework управління даними та виконайте очищення перед інтеграцією/міграцією. Визначте чіткі моделі даних та потоки. Протестуйте та валідуйте дані.
3. Інтеграція з існуючою інфраструктурою:
   • Виклик: Зв’язки з джерелами даних, ERP, CRM та іншими системами повинні працювати надійно та безпечно.
   • Мітігейшн: Визначте всі необхідні інтеграції на ранньому етапі. Оберіть платформу з надійними API або стандартними конекторами. Грунтовно тестуйте інтеграції.
4. Обсяг проекту та перевищення бюджету:
   • Виклик: По мірі проекту можуть виникати нові побажання, що розширюють обсяг та збільшують витрати.
   • Мітігейшн: Визначте чітку, обмежену область з конкретними кейсами використання (MVP) для першої фази. Впровадьте суворий процес управління змінами. Створіть реалістичний графік та бюджет з резервом.
5. Вибір правильної технології та партнера для впровадження:
   • Виклик: Ринок AI складний. Неправильний вибір технології або некомпетентний партнер можуть зірвати проект.
   • Мітігейшн: Проведіть ґрунтовне дослідження відповідних AI-технологій для визначених кейсів. Оберіть партнера з підтвердженим досвідом у вашій галузі та з обраними технологіями. Запитайте рекомендації.
6. Недостатня AI-освіта та навички в організації:
   • Виклик: Можна не вистачати внутрішньої експертизи для ефективного використання, обслуговування або розвитку платформи.
   • Мітігейшн: Інвестуйте в навчання та освіту. Розгляньте найм спеціалізованого персоналу або тісну співпрацю з партнером з впровадження для передачі знань. Створіть культуру постійного навчання.
7. Етичні міркування та пояснюваність (Explainable AI):
   • Виклик: Рішення, що приймаються або підтримуються AI, мають бути прозорими та пояснюваними, особливо якщо вони впливають на клієнтів або співробітників. Ухилення у даних може призвести до несправедливих результатів.
   • Мітігейшн: Визначте етичні принципи використання AI. У разі можливості надавайте моделі, які інтерпретуються. Впровадьте процеси виявлення та пом’якшення упередженості. Забезпечте людський контроль за критичними рішеннями AI.

Приклащіти ці виклики проактивно, ми збільшуємо ймовірність успішного впровадження платформи AI, що справді приносить користь бізнес-цілям.

Техніки

Нижче описано кілька технік, які можна використовувати у більш просунутих промптах.

Техніка 1 - надання прикладів

Щоб переконатися, що мовна модель дотримується вашого стилю, надайте один-два приклади.

Метод називають “one & few-shot prompting”

Techniek 1 - надання прикладів

Напишіть концептуальний лист клієнтам щодо майбутнього планового оновлення системи. Використайте наш внутрішній політику для спілкування з клієнтами (додайте відповідні пункти з політики). Використайте як стиль останню розсилку, але не використовуйте зміст із розсилки: (вставте текст розсилки)

Повна промпа виглядає так:

Внутрішня політика для спілкування з клієнтами:

• Завжди будьте професійні та ввічливі.
• Надавайте своєчасні оновлення щодо важливих змін або збоїв.
• Пропонуйте чітку та стислу інформацію.
• Забезпечте рішення або компенсацію за потреби.

Використовуйте для стилю цю розсилку, але не використовуйте інформацію з цієї розсилки. Шановний клієнте,

Хочемо повідомити вас про майбутнє оновлення системи, яке може вплинути на наші послуги.

Дата та час оновлення: [дата та час] Очікувана тривалість перерви: [тривалість] Задіяні послуги: [послуги]

Під час цього періоду наші послуги можуть бути тимчасово недоступні. Ми докладемо всіх зусиль, щоб зменшити незручності та відновити послуги як можна швидше.

Techniek 1 - відповідь

Нижче наведено відповідь мовної моделі на повну промпу з прикладами

Шановний клієнте,

Хочемо повідомити вас про майбутнє оновлення системи, яке може вплинути на наші послуги.

Дата та час оновлення: [дата та час] Очікувана тривалість перерви: [тривалість] Задіяні послуги: [послуги]

Під час цього періоду наші послуги можуть бути тимчасово недоступні. Ми докладемо всіх зусиль, щоб зменшити незручності та відновити послуги як можна швидше.

Якщо є запитання, будь ласка, звертайтесь до нас.

З повагою, [Ваше ім’я] [Ваша посада] [Назва компанії] [Контактна інформація]

Техніка 2 - використати шаблон

Щоб мовна модель використовувала певний формат, дайте шаблон та приклад. Це дозволяє структуровано формувати відповідь. Можна використовувати різні формати, корисні в різних ситуаціях, наприклад:

• csv-вивід для імпорту в Excel або інструмент аналізу даних
• json-вивід для API-інтеграцій або конфігураційних файлів
• Планування наради для проектної зустрічі

Приклад промпи: Згенеруйте перелік трьох потенційних маркетингових каналів для нового SaaS-продукту, орієнтованого на МКБ. Форматуйте відповідь так: Канал: Охоплення аудиторії: Потенційна ROI: Необхідні ресурси:

Наприклад: Канал: Google Ads (Пошук) Охоплення аудиторії: Специфічні посади, галузі, розмір компанії Потенційна ROI: Середня, залежно від конкуренції Необхідні ресурси: Рекламний бюджет, дослідження ключових слів, оптимізація лендингу, управління кампанією

Метод називають “output templates”

Techniek 2 - шаблон

Нижче наведено відповідь мовної моделі на промпу з шаблоном виводу

Канал: Контент-маркетинг (Блог та SEO) Охоплення аудиторії: Компанії, які активно шукають рішення своїх проблем, органічний трафік Потенційна ROI: Висока на довгостроковій перспективі, будує авторитет Необхідні ресурси: Контент-лідери, SEO-спеціаліст, час на дослідження ключових слів та просування контенту

Канал: Google Ads (Пошук) Охоплення аудиторії: Компанії, які активно шукають конкретні ключові слова, пов’язані з SaaS-продуктом Потенційна ROI: Середня — висока, залежно від конкуренції та CPC Необхідні ресурси: Рекламний бюджет, дослідження ключових слів, оптимізація лендингу, управління кампанією

Канал: Email-маркетинг (Nurturing) Охоплення аудиторії: Контакти з вебсайту, вебінарів або інших каналів Потенційна ROI: Висока, ефективна для конверсії лідів у клієнтів Необхідні ресурси: Платформа email-маркетингу, контент для серій листів, навички секційного таргетингу

Техніка 3 - натяк

Щоб мовна модель почала відповідати певним чином, дайте натяк. Тут натяк додають наприкінці промпу.

Приклад промпу: Чи можете ви підсумувати цей маркетинговий звіт? (прикріпіть відповідні розділи звіту). Почніть відповідь з: Найважливіші висновки з цього маркетингового дослідження:

• ВКЛІПІТЬ ТЕКСТ ЗОВНІШНЬОГО ЗВІТУ

Метод називають “cue та hints” Цей приклад використовує вигаданий звіт.

Techniek 3 - натяк

Нижче наведено відповідь мовної моделі на промпу з натяком

Найважливіші висновки з цього маркетингового дослідження:

• Попит на хмарні системи управління проектами для малого та середнього бізнесу за останні два роки збільшився на 35%.
• Основні фактори вибору для MKB: зручність використання, інтеграційні можливості з існуючими інструментами та ціноутворення.
• Конкурент А має 25% ринку, за ним Конкурент B з 18%. Є простір для нових гравців, що орієнтуються на конкретні ніші або на кращий користувацький досвід.
• Найбільші виклики для MKB при впровадженні нового програмного забезпечення — початкові інвестиції та час, потрібний для навчання співробітників.
• Очікується, що ринок у найближчі п'ять років зростатиме приблизно на 15% щороку.

Техніка 4 - розділення контенту від інструкцій

Іноді промпт занадто довгий через додатковий вміст, і модель неправильно розуміє. У такому разі розділіть зміст за допомогою трьох лапок на початку й наприкінці тексту запиту.

Приклад промпу: Чи можете ви коротко викласти цю статтю? “”” (вставте текст статті) “”” Почніть відповідь з: Найважливіші пункти цієї статті:

Метод називають “content splitsen” Цей приклад знову використовує статтю з Інтернету: https://www.leraar24.nl/2619420/onderwijs-op-afstand-wat-hebben-we-geleerd/

Techniek 4 - content splitsen

Нижче наведено відповідь мовної моделі на промпу з розділенням вмісту. Ми використовуємо три подвійних лапки або три зірочки, щоб розділити контекст запиту.

Найважливіші пункти цього статті:

• Протягом коронакризи вчителі повинні були розробляти стратегії та техніки для максимально ефективного дистанційного навчання, водночас батьки брали на себе більшу роль у допомозі дітям.
• Важливими факторами успішного дистанційного навчання були організований розпорядок дня, підтримка відкритого спілкування між вчителем та учнем та обґрунтований вибір того, що саме робити онлайн або на папері.
• Виклики включали пошук способів підтримки уразливих учнів та додатковий тягар, що лежить на батьках, особливо тим, хто також працює вдома.
• Різке збільшення цифровізації в школах, з появою нових цифрових інструментів та методів. У статті згадується приклад вчителя Манді де Фріс, який, попри відносно короткий досвід у навчанні, зміг підтримати колег завдяки своїм цифровим навичкам.
• Стаття також підкреслює важливість тривалого контакту та уваги до учнів, особливо тих у спеціальній освіті, та пропонує практичні поради як для вчителів, так і для батьків.
• Нарешті, стаття висловлює надію, що залученість батьків у навчання їхніх дітей дистанційно залишиться і після пандемії.

Техніка 5 - спочатку запитати додаткову інформацію

Ви можете дати інструкцію спочатку ставити додаткові запитання, перш ніж сформувати відповідь. Так мовна модель допоможе уточнити запит і зробити його більш конкретним.

Приклад промпу: “Я хочу підготувати проектну пропозицію для розробки нового мобільного додатку для внутрішньої комунікації. Додаток має містити функції для оновлень, фотоальбом та прямого обміну повідомленнями. Перш ніж ви напишете пропозицію, можете поставити мені ще кілька запитань, щоб покращити пропозицію?”

Метод називають “ask before answer prompting”

Techniek 5 - питання перед відповіддю

Нижче наведено відповідь мовної моделі на промпу з запитом додаткової інформації

Звісно! Ось кілька запитань, які я можу поставити, щоб покращити проектну пропозицію:

• Яка основна мета внутрішньої комунікаційної програми? (наприклад, підвищення залученості, покращення інформування, сприяння співпраці)
• Хто конкретно є цільовою аудиторією в компанії? (наприклад, всі працівники, конкретні підрозділи, польові працівники)
• Чи є існуючі системи або платформи, з якими додаток повинен інтегруватися? (наприклад, внутрішній портал, HR-система, Active Directory)
• Який бюджет та бажаний термін розробки та впровадження?
• Чи є специфічні вимоги щодо безпеки або відповідності (наприклад GDPR, політика збереження даних)?
• Які KPI будуть використані для вимірювання успіху додатка?
• Чи є уже уявлення щодо дизайну або брендингу додатка? Чи має відповідати корпоративній ідентичності?
• Є перевага щодо платформи розробки (iOS, Android, кросплатформені)?

З цією додатковою інформацією ми зможемо краще окреслити обсяг та вимоги та створити більш сильну проектну пропозицію.

Техніка 6 - емоційна підказка

Ви можете інструктувати змінити тон тексту залежно від емоцій, що лежать в основі, або викликати певну емоційну реакцію. Це корисно для обслуговування клієнтів, внутрішньої комунікації або маркетингу.

Приклад промпу: “Мені потрібно надіслати лист клієнту, який незадоволений останнім неполадним від сервісу. Клієнт написав: “”” … ””” (вставте текст клієнта). Я хочу, щоб лист був емпатійним, визнавав роздратування клієнта та пропонував конструктивне рішення.”

Метод називають “emotional prompting” У цьому прикладі використовується вигадана скарга.

Повний промпл тоді звучить так:

Я хочу надіслати лист клієнту, який незадоволений останнім перебоем сервісу. Клієнт написав: """Шановний пане/пані,

Я дуже розчарований через раптову зупинку сервісу вчора. Це серйозно порушило наш бізнес-процеси та призвело до втрати продуктивності. Ми покладаємося на ваші послуги, такі інциденти неприпустимі. Я очікую чітке пояснення та відповідну компенсацію."""

Я хочу, щоб лист був емпатійним, визнав роздратування клієнта і запропонував конструктивне рішення.

Techniek 6 - емоційний промп

Нижче наведено відповідь, яку ми отримали від мовної моделі

Шановний [Ім’я клієнта],

Щиро дякуємо за ваш лист і прийміть наші щирі вибачення за збої в сервісі, які ви зазнали вчора. Я повністю розумію ваше розчарування та той вплив, який це мало на ваш бізнес. Нам шкода, що ми не виправдали ваші очікування та наші обслуговувальні стандарти.

Збої спричинено [коротке, чітке пояснення причини, наприклад, непередбачена технічна поломка в нашому дата-центрі]. Ми одразу вжили заходів, наші техніки працюють над якомога швидким відновленням сервісу. Сервіс відновлений повністю з [часу].

Ми ставимося до цього інциденту дуже серйозно і вже намагаємося з’ясувати причину, щоб запобігти повторенню.

Щоб частково компенсувати завдані незручності, ми із радістю запропонуємо [конкретна пропозиція, наприклад знижка на наступний рахунок / безкоштовне оновлення на місяць / кредит сервісу]. Один з наших менеджерів облікових записів зв’яжеться з вами протягом 24 годин, щоб обговорити це особисто та відповісти на додаткові запитання.

Ще раз вибачаємо за незручності. Ми цінуємо вашу лояльність і прагнемо у майбутньому надавати вам надійний сервіс, який ви очікуєте від нас.

З повагою,

[Ваше ім’я/Назва компанії]

Техніка 7 - запитати кілька варіантів

Ваш запит може містити кілька версій відповіді, щоб у вас було варіантів на вибір. Наприклад, ви хочете, щоб модель допомогла створити кілька маркетингових слоганів для нового продукту. Існує багато різних кутів зору, тому зручно мати кілька варіантів. Це можна ефективно поєднувати з розстановкою ролі для моделі та системної промпти, щоб підштовхнути модель далі.

Дізнатися більше про ролі можна у відповідній статті. Цей приклад з кількома версіями розташовано внизу статті. Тут він повністю не повторюється.

Техніка 8 - Поєднання з системною промптою

За допомогою системної промпти можна давати завдання моделі. Це інструкція, яку ви можете передати моделі, щоб конкретизувати завдання або поведінку моделі. Вона може вказати, який вихід ви очікуєте від моделі. Це спосіб керування моделлю та запобігання небажаним відповідям.

Нижче кілька простих і загальних системних промпотів:

"Я хочу, щоб ти був дружелюбним та корисним помічником."

"Завжди залишайся професійним та поважним у своїй мові."

"Сфокусуйся на наданні конкретних, по суті відповідей без зайвої інформації."

Системна промпта фактично встановлює тон та очікування для конкретної розмови або завдання, яке ви хочете виконати з мовною моделлю.

Також можна придумати більш просунуті системні промпти для конкретних завдань, наприклад для підсумовування тексту: "Проаналізуй даний текст уважно і дай стислий, але інформативний підсумок основних пунктів. Визнач ядро меседжу та найважливіші деталі."

Системні промпти не мають однакового впливу на кожну модель. У ChatGPT вони дуже впливають, у Claude також, у інших моделях вплив промпти може бути меншим. Тому варто спробувати різні варіанти, щоб зрозуміти, яка модель найкраще підходить для вашого запиту.

Можна загальну системну промпту встановлювати у налаштуваннях, але краще продумати їх per task, що ви хочете автоматизувати. Ми називаємо це ролями.

Додатково можна дізнатися про ролі у відповідній статті.