Inżynieria promptów

Inżynieria promptów oznacza w prostych słowach zadawanie AI dobrych pytań. Prompt to Twoje wejście z pytaniem lub prośbą.

Inżynieria promptów polega na tworzeniu ukierunkowanych pytań i wskazówek, które mają pomóc modelom AI udzielić właściwych odpowiedzi podczas czatów. Lepsze prompty dają lepsze rezultaty.

Wraz ze specyfikacjami wybranego modelu, decydują one o jakości odpowiedzi.

Elementy promptu (pytania)

Aby uzyskać lepsze wyniki, należy pamiętać o następujących punktach:

• Cel: czego dokładnie oczekujesz od modelu językowego?
• Rola: jaka jest rola modelu językowego? (np. „Analityk marketingowy”, „Doradca prawny”, „Kierownik projektu”)
• Kontekst: kontekst informacji o żądaniu (np. cele biznesowe, szczegóły projektu, informacje rynkowe)
• Styl: jaki styl chcesz stosować? (np. formalny, perswazyjny, zwięzły)
• Wynik/Format: w jakim formacie chcesz otrzymać odpowiedź? (np. raport, e-mail, zarys prezentacji, fragment kodu)

Cel

Dokładne opisanie celu Twojego pytania jest kluczowe i nie może być pominięte.

Co chcesz wiedzieć?

• Pytanie faktograficzne może być, ale bądź świadomy ograniczeń (np. brak aktualnej wiedzy)
• Podobnie jak w Google, nie dostaniesz dokładnie tej samej odpowiedzi, jeśli zadawasz pytanie wielokrotnie
• Korzyść to funkcja „czatu”, która pozwala na zadawanie dodatkowych pytań

Przykład promptu z jasnym celem:

Prompt z samym celem

Podaj opis głównych wyzwań związanych z wdrożeniem nowej platformy AI w średniej wielkości firmie.

Wdrożenie nowej platformy AI w średniej wielkości firmie niesie ze sobą różne wyzwania. Kilka kluczowych to:

1. Opór wobec zmian: Pracownicy są przyzwyczajeni do istniejących procesów i systemów. Nowa platforma AI wymaga dostosowania i może wywołać opór, zwłaszcza jeśli wpływ na przepływy pracy nie jest jasny.
2. Jakość i dostępność danych: Platformy AI są silnie zależne od danych. Zbieranie, czyszczenie i strukturyzowanie danych pod nową platformę może być skomplikowane i czasochłonne.
3. Integracja z istniejącymi systemami: Platforma AI często musi być zintegrowana z innymi aplikacjami biznesowymi (ERP, źródła danych, narzędzia BI). Mogą pojawić się wyzwania techniczne.
4. Koszty: Oprócz kosztów licencji platformy pojawiają się koszty wdrożenia, szkolenia, infrastruktury danych i potencjalnie wyspecjalizowanego personelu.
5. Szkolenie i adopcja: Pracownicy muszą być przeszkoleni w korzystaniu z nowej platformy i interpretowaniu wyników. Brak dobrej edukacji i stałego wsparcia może utrudniać adopcję.
6. Wybór właściwej platformy i zastosowań (use cases): Istnieje wiele platform i technologii AI. Wybór platformy i zdefiniowanie odpowiednich use cases dopasowanych do potrzeb i celów firmy jest kluczowy.
7. Etyka i zgodność (compliance): W zależności od zastosowania platformy AI mogą pojawić się kwestie etyczne i wymagania zgodności (np. GDPR), które trzeba starannie rozwiązać.
8. Zarządzanie projektem: Udana implementacja wymaga solidnego zarządzania projektem, jasnych celów i zaangażowania interesariuszy z różnych działów.

Dodanie roli i kontekstu

Dodanie roli i kontekstu prowadzi do lepszych i bardziej konkretnych odpowiedzi.

Przykład tego samego pytania, ale z rolą i kontekstem:

Prompt z celem, rolą i kontekstem

Jako kierownik projektu odpowiedzialny za wdrożenie nowej platformy AI do analizy danych i optymalizacji procesów w usługodawcy B2B z 150 pracownikami, podaj opis głównych wyzwań i możliwych strategii mitigacji.

Jako kierownik projektu wdrażającego nową platformę AI do analizy danych i optymalizacji procesów w usługodawcy B2B z 150 pracownikami, widzę następujące kluczowe wyzwania i możliwe strategie mitigacji:

1. Opór wobec zmian & Adopcja użytkowników:
   • Wyzwanie: Pracownicy, zwłaszcza ci, których zadania bezpośrednio będą dotknięte, mogą być niechętni do zmiany przyzwyczajeń i akceptacji nowych AI-wników.
   • Mitigacja: Wczesny udział kluczowych użytkowników. Wyraźnie komunikuj korzyści (wydajność, lepsze decyzje, nowe wnioski). Zapewnij obszerne szkolenia i wsparcie na bieżąco. Wyznacz „AI-champions” w poszczędnich działach.
2. Jakość, zarządzanie danymi i migracja:
   • Wyzwanie: Skuteczność platformy AI zależy od wysokiej jakości danych. Dane z istniejących systemów często są niespójne, niekompletne lub błędne.
   • Mitigacja: Rozpocznij od gruntownego audytu danych, zdefiniuj ramy zarządzania danymi i przeprowadź oczyszczanie danych przed integracją/migracją. Zdefiniuj modele danych i przepływy danych. Przeprowadź testy i zweryfikuj dane.
3. Integracja z infrastrukturą IT:
   • Wyzwanie: Powiązania z istniejącymi źródłami danych, ERP, CRM i innymi systemami muszą działać płynnie i bezpiecznie.
   • Mitigacja: Wcześniej zidentyfikuj wszystkie potrzebne integracje. Wybierz platformę AI z solidnymi możliwościami API lub standardowymi konektorami. Przeprowadź gruntowne testy integracji.
4. Zakres i budżet:
   • Wyzwanie: W trakcie projektu mogą pojawiać się nowe wymagania dotyczące zastosowań AI, które rozszerzają zakres i zwiększają koszty.
   • Mitigacja: Zdefiniuj jasny, ograniczony zakres z wyraźnymi przypadkami użycia (MVP) na pierwszą fazę. Wprowadź rygorystyczny proces zarządzania zmianami. Utrzymuj realistyczny plan projektu i budżet z buforem.
5. Wybór technologii i partnera implementacyjnego:
   • Wyzwanie: Rynek AI jest skomplikowany. Niewłaściwy wybór technologii lub niedoświadczony partner może doprowadzić do niepowodzenia.
   • Mitigacja: Przeprowadź gruntowne badania odpowiednich technologii AI dla zdefiniowanych przypadków użycia. Wybierz partnera z widocznym doświadczeniem w Twojej branży i z wybranymi technologiami. Zbieraj referencje.
6. Brak wiedzy AI w organizacji:
   • Wyzwanie: Może brakować wewnętrznej ekspertyzy, aby skutecznie korzystać, utrzymywać i rozwijać platformę AI.
   • Mitigacja: Inwestuj w szkolenia. Rozważ zatrudnienie specjalistów lub ścisłą współpracę z partnerem wdrożeniowym w celu transferu wiedzy. Stwórz kulturę ciągłego uczenia się.
7. Etyka i wyjaśnialność (Explainable AI):
   • Wyzwanie: Decyzje podejmowane lub wspierane przez AI muszą być przejrzyste i wyjaśnialne, zwłaszcza gdy mają wpływ na klientów lub pracowników. Uprzedzenia w danych mogą prowadzić do nieuczciwych wyników.
   • Mitigacja: Opracuj etyczne wytyczne dotyczące użycia AI. Wybieraj modele, które są możliwe do interpretacji, gdzie to możliwe. Wprowadź procesy wykrywania i niwelowania uprzedzeń. Zapewnij ludzką nadzór nad krytycznymi decyzjami AI.

Poprzez proaktywne podejście do tych wyzwań zwiększamy szanse na udaną implementację platformy AI, która rzeczywiście wspiera cele biznesowe.

Techniki

Poniżej opisujemy kilka technik, które mogą być przydatne przy bardziej zaawansowanych promptach.

Technika 1 - podawanie przykładów

Aby zapewnić, że model językowy stosuje ten sam styl, co Ty, podaj jeden lub dwa przykłady.

Metoda nazywa się „one & few-shot prompting”

Technika 1 - podawanie przykładów

Napisz koncepcyjny e-mail do klientów o nadchodzącej planowanej aktualizacji systemu. Użyj naszego wewnętrznego polityki komunikacji z klientami (dodaj odpowiednie punkty z polityki). Użyj jako wytycznej stylu tej niedawno opublikowanej biuletynu, ale nie bierz zawartości: (wstaw tekst biuletynu)

Pełny prompt wygląda następująco:

Wewnętrzna polityka komunikacji z klientami:

• Zawsze bądź profesjonalny i uprzejmy.
• Udzielaj terminowych aktualizacji na temat ważnych zmian lub awarii.
• Zapewnij jasne i zwięzłe informacje.
• Zadbaj o rozwiązanie lub rekompensatę, jeśli ma to zastosowanie.

Użyj dla stylu tego biuletynu, ale nie używaj informacji z tego biuletynu. Drogi kliencie,

Chcielibyśmy poinformować Cię o nadchodzącej aktualizacji systemu, która może wpłynąć na nasze usługi.

Data i godzina aktualizacji: [data i godzina] Przewidywany czas przerwy: [czas] Usługi objęte: [usługi]

W czasie tej przerwy nasze usługi mogą być czasowo niedostępne. Dołożymy wszelkich starań, aby utrudnienia były jak najmniejsze i jak najszybciej przywrócili usługi.

Technika 1 - odpowiedź

Poniżej znajduje się odpowiedź modelu językowego na rozszerzony prompt z przykładami

Drogi kliencie,

Chcielibyśmy poinformować Cię o nadchodzącej aktualizacji systemu, która może wpłynąć na nasze usługi.

Data i godzina aktualizacji: [data i godzina] Przewidywany czas przerwy: [czas] Usługi objęte: [usługi]

W czasie tej przerwy nasze usługi mogą być czasowo niedostępne. Dołożymy wszelkich starań, aby utrudnienia były jak najmniejsze i jak najszybciej przywrócili usługi.

W razie pytań prosimy o kontakt.

Z poważaniem, [Twoje Imię] [Twoje Stanowisko] [Nazwa firmy] [Informacje kontaktowe]

Technika 2 - podanie szablonu

Aby zapewnić, że model językowy użyje określonego formatu, podaj szablon i przykład. To sprawia, że model ułoży odpowiedź w określony sposób. Możesz myśleć o bardzo różnych formatach, które przydają się w sytuacjach takich jak:

• csv output do importu w arkusz Excel lub narzędzie analizy danych
• json output do integracji API lub plików konfiguracyjnych
• zarys harmonogramu na spotkanie projektowe

Przykładowy prompt: Wygeneruj listę trzech potencjalnych kanałów marketingowych dla nowego produktu SaaS skierowanego do MŚP. Sformatuj odpowiedź w następujący sposób: Kanał: Zasięg grupy docelowej: Potencjalny ROI: Wymagane zasoby:

Na przykład: Kanał: Reklama LinkedIn Zasięg grupy docelowej: Konkretne tytuły stanowisk, branże, wielkość firmy Potencjalny ROI: Wysoki, jeśli dobrze targetowany Wymagane zasoby: budżet na reklamy, tworzenie treści, zarządzanie kampanią

Metoda nazywa się „output templates”

Technika 2 - podanie szablonu

Poniżej znajduje się odpowiedź modelu na prompt z szablonem wyjścia

Kanał: Content Marketing (Blog & SEO) Zasięg grupy docelowej: Firmy aktywnie poszukujące rozwiązań swoich problemów, ruch organiczny Potencjalny ROI: Wysoki długoterminowo, buduje autorytet Wymagane zasoby: Copywriterzy, specjalista SEO, czas na badanie słów kluczowych i promocję treści

Kanał: Google Ads (Wyszukiwanie) Zasięg grupy docelowej: Firmy aktywnie poszukujące określonych słów kluczowych związanych z produktem SaaS Potencjalny ROI: Średni do wysokiego, zależy od konkurencji i CPC Wymagane zasoby: Budżet na reklamy, badanie słów kluczowych, optymalizacja stron docelowych, zarządzanie kampanią

Kanał: Email Marketing (Lead Nurturing) Zasięg grupy docelowej: Lead’y zebrane przez stronę, webinaria lub inne kanały Potencjalny ROI: Wysoki, skuteczny w konwersji leadów na klientów Wymagane zasoby: Platforma email marketingowa, treści e-maili, umiejętności segmentacji

Technika 3 - hint

Aby upewnić się, że model językowy zaczyna w określony sposób i pisze w określony sposób, podaj hint. Tutaj hint dodaje się na końcu promptu.

Przykładowy prompt: Czy możesz podsumować ten raport rynkowy? (wklej odpowiednie sekcje raportu). Zacznij swoją odpowiedź od: Najważniejsze wnioski z raportu rynkowego to:

• Wklej tekst raportu

Metoda nazywa się „cues i hints” To przykładowe użycie fikcyjnego raportu.

Technika 3 - hint

Poniżej znajduje się odpowiedź modelu na prompt z hintem

Najważniejsze wnioski z raportu rynkowego to:

• Popyt na oprogramowanie do zarządzania projektami w chmurze wśród MŚP wzrósł w ostatnich dwóch latach o 35%.
• Główne czynniki decyzyjne dla firm MŚP to łatwość obsługi, możliwości integracji z istniejącymi narzędziami i cenotwórczość.
• Udział rynkowy Firmy A wynosi 25%, Firma B 18%. Jest miejsce dla nowych graczy skierowanych na nisze lub oferujących lepsze doświadczenie użytkownika.
• Największe wyzwania przy adopcji nowego oprogramowania to początkowa inwestycja i czas potrzebny na szkolenie pracowników.
• Oczekuje się, że rynek będzie rósł o 15% rocznie w ciągu najbliższych pięciu lat.

Technika 4 - rozdzielanie treści instrukcji

Czasami prompt jest bardzo długi z powodu dodatkowej treści i model językowy źle interpretuje, czego chcesz. Rozdziel treść, umieszczając trzy podwójne cudzysłowy na początku i na końcu tekstu reszty promptu.

Przykładowy prompt: Czy możesz streścić ten artykuł? “”” (tu tekst artykułu) “”” Zacznij swoją odpowiedź od: Najważniejsze punkty z tego artykułu to:

Metoda nazywa się „rozdzielanie treści” To przykładowy artykuł z Internetu: https://www.leraar24.nl/2619420/onderwijs-op-afstand-wat-hebben-we-geleerd/

Technika 4 - rozdzielanie treści

Poniżej znajduje się odpowiedź modelu na prompt z rozdzieloną treścią. Używamy trzech znaków cudzysłowu lub trzech gwiazdek, aby oddzielić kontekst zapytania.

Najważniejsze punkty z tego artykułu to:

• Podczas kryzysu związanego z pandemią nauczyciele musieli opracować strategie i techniki, aby prowadzić naukę zdalną jak najefektywniej, podczas gdy rodzice przyjęli na siebie większą rolę w wspieraniu swoich dzieci.
• Kluczowe czynniki sukcesu nauczania zdalnego to organizacja struktury dnia, utrzymanie otwartej komunikacji między nauczycielem a uczniem oraz rozsądny wybór, które części lekcji mogą być prowadzone online lub na papierze.
• Wyzwania obejmują znalezienie sposobów wspierania wrażliwych uczniów oraz dodatkowe obciążenie rodziców, zwłaszcza tych, którzy pracują zdalnie.
• Nastąpił szybki wzrost digitalizacji w szkołach, wprowadzone zostały nowe narzędzia i metody cyfrowe. W artykule wspomniano przykład nauczycielki Mandy de Vries, która, mimo krótkiego stażu w zawodzie, pomagała kolegom dzięki swoim umiejętnościom cyfrowym.
• Artykuł podkreśla również znaczenie utrzymania stałego kontaktu i uwagi dla uczniów, zwłaszcza tych w specjalnym edukowaniu, i oferuje praktyczne wskazówki zarówno dla nauczycieli, jak i rodziców.
• Na koniec artykuł wyraża nadzieję, że zaangażowanie rodziców w edukację swoich dzieci podczas nauki zdalnej utrzyma się także po pandemii.

Technika 5 - najpierw zapytaj o dodatkowe informacje

Możesz dać instrukcje, aby najpierw zadać dodatkowe pytania, zanim wygenerowana zostanie odpowiedź. Dzięki temu model językowy pomoże Ci doprecyzować i uwyraźnić żądanie.

Przykładowy prompt: „Chcę przygotować propozycję projektu dotyczącą rozwoju nowej aplikacji mobilnej do wewnętrznej komunikacji. Aplikacja powinna zawierać funkcje aktualności, książkę kontaktów i bezpośrednie wiadomości. Zanim napiszesz propozycję projektu, czy możesz zadać mi dodatkowe pytania, aby ulepszyć propozycję?”

Metoda nazywa się „ask before answer prompting”

Technika 5 - najpierw dodatkowe informacje

Poniżej znajduje się odpowiedź modelu na prompt z prośbą o dodatkowe informacje

Oczywiście! Oto kilka pytań, które mogę zadać, aby ulepszyć propozycję projektu:

• Jaki jest główny cel wewnętrznej aplikacji komunikacyjnej? (np. zwiększenie zaangażowania, lepsze rozpowszechnianie informacji, wspomaganie współpracy)
• Kto jest konkretną grupą docelową w firmie? (np. wszyscy pracownicy, konkretne działy, pracownicy w terenie)
• Czy istnieją istniejące systemy lub platformy, z którymi aplikacja musi się integrować? (np. intranet, system HR, Active Directory)
• Jaki jest przewidywany budżet i harmonogram prac nad rozwojem i wdrożeniem?
• Czy istnieją konkretne wymogi bezpieczeństwa lub zgodności, które aplikacja musi spełniać? (np. GDPR, polityka retencji danych)
• Jakie KPI będą mierzone, aby ocenić sukces aplikacji?
• Czy są już pomysły na design lub branding aplikacji? Czy powinna być zgodna z tożsamością firmy?
• Czy jest preferencja co do platformy deweloperskiej (iOS, Android, cross-platform)?

Dzięki tym dodatkowym informacjom uzyskamy lepszy obraz zakresu i wymagań, co pozwoli stworzyć silniejszą propozycję projektu.

Technika 6 - prompt emocjonalny

Możesz polecić, aby dostosować ton tekstu do emocji leżących u podstaw lub wywołać konkretną reakcję emocjonalną. Przydatne w obsłudze klienta, komunikacji wewnętrznej lub marketingu.

Przykładowy prompt: „Muszę napisać e-mail do klienta niezadowolonego z ostatniego przerwania usługi. Klient napisał następująco: “”” … “”” (wklej tekst klienta). Chcę, aby e-mail był empatyczny, uznawał frustrację klienta i proponował konstruktywne rozwiązanie.”

Metoda nazywa się „emocjonalne prompting” To przykładowe użycie fiktywnego skarg.

Pełny prompt brzmi wtedy:

Muszę napisać e-mail do klienta niezadowolonego z ostatniego przerwania usługi. Klient napisał:

"""Szanowni Państwo,

Jestem bardzo rozczarowany niespodziewanym przerwaniem usługi wczoraj po południu. To poważnie zaburzyło naszą działalność i doprowadziło do utraty produktywności. UExpectuję jasne wyjaśnienie i odpowiednią rekompensatę."""

Chcę, aby e-mail był empatyczny, uznawał frustrację klienta i proponował konstruktywne rozwiązanie.

Technika 6 - emocjonalny prompt

Poniżej znajduje się odpowiedź, którą otrzymaliśmy od modelu

Szanowny Panie/Pani [Imię Klienta],

Serdecznie dziękujemy za wiadomość i szczere przeprosiny za przerwanie usługi, które miało miejsce wczoraj. Całkowicie rozumiem Twoją frustrację i wpływ, jaki to miało na Twoje operacje biznesowe. Przepraszamy, że nie spełniliśmy Twoich oczekiwań i naszych standardów serwisowych.

Przerwanie spowodowane było [krótkie, jasne wyjaśnienie przyczyny, np. nieprzewidziana awaria w naszym centrum danych]. Natychmiast podjęto działania, a nasi technicy ciężko pracowali, aby przywrócić usługę tak szybko, jak to możliwe. Usługa została w pełni przywrócona od [godziny].

Podejmujemy to zdarzenie bardzo poważnie i już analizujemy przyczynę, aby zapobiec jego powtórzeniu w przyszłości.

Aby nieco zrekompensować niedogodności, oferujemy [konkretną propozycję, np. rabat na następny rachunek / darmowy upgrade na miesiąc / kredyt serwisowy]. Jeden z naszych menedżerów ds. konta skontaktuje się z Państwem w ciągu 24 godzin, aby omówić to osobiście i odpowiedzieć na wszelkie pytania.

Jeszcze raz przepraszamy za niedogodności. Doceniamy Państwa lojalność i dążymy do zapewnienia w przyszłości niezawodnej usługi, której Państwo oczekują.

Z poważaniem,

[Twoje imię/Nazwa firmy]

Technika 7 - zapytanie o wiele wersji

Możesz zadać kilka wersji odpowiedzi, aby mieć wybór. Na przykład chcesz, aby model pomógł w wygenerowaniu kilku różnych haseł marketingowych dla nowego produktu. Istnieje wiele możliwych podejść, więc warto mieć kilka opcji. Może to być skuteczne w połączeniu z ustaleniem określonej roli dla modelu i systemowej prompty, aby model był dodatkowo ukierunkowany.

Możesz przeczytać więcej o rolach w odpowiednim artykule. Ten przykład z wieloma wersjami znajduje się na samym dole artykułu. Nie powtarzamy go tu w całości.

Technika 8 - łączenie z systemowym promptem

Z systemowym promptem możesz dawać modelowi zadania do wykonania. Jest to instrukcja, którą możesz przekazać modelowi, aby zadanie lub zachowanie modelu było konkretnie ukształtowane. Możesz określić, jaki rodzaj wyjścia oczekujesz od modelu AI. To sposób na kierowanie modelem i zapobieganie generowaniu nieistotnych lub niepożądanych odpowiedzi.

Kilka przykładów prostych i ogólnych system prompts:

„Chcę, abyś był uprzejmym i pomocnym asystentem.”

„Zawsze bądź profesjonalny i szanuj język.”

„Skoncentruj się na podawaniu konkretnych, bezpośrednich odpowiedzi bez zbędnych szczegółów.”

System prompt ustawiałby ton i oczekiwania dla konkretnej konwersacji lub zadania, które chcesz zrealizować.

Możesz także wymyślić bardziej zaawansowane system prompts do konkretnych zadań, takich jak streszczanie tekstu: „Analizuj podany tekst uważnie i podaj zwięzłe, ale informacyjne streszczenie najważniejszych punktów. Zidentyfikuj kluczowe przekazy i najważniejsze szczegóły.”

System prompts nie mają tej samej mocy we wszystkich modelach AI. W chatGPT działają bardzo silnie, w Claude także, w innych modelach wpływ promptu systemowego może być mniejszy. Warto eksperymentować, aby zobaczyć, który model najlepiej pasuje do Twojego wejścia.

Możesz ustawić ogólne system prompts w preferencjach, ale najlepiej opracować te prompt-y per zadanie, które chcesz zautomatyzować. Nazywamy to rolami.

Możesz przeczytać więcej o rolach w odpowiednim artykule.