Few-shot prompting – czym jest ta technika i jak wykorzystać ją w pracy z AI?
Spis treści
Spis treści
Istnieje wiele technik promptowania, które pomagają wyciągnąć jak najwięcej z konwersacji z modelami AI. Few-shot prompting jest jedną z najprostszych… a jednocześnie najskuteczniejszych – poniżej wyjaśnimy, na czym polega i pokażemy, jak z niej korzystać.
Co to jest few-shot prompting?
Few-shot prompting jest techniką pisania promptów, która polega na tym, że zanim poprosimy model o wykonanie właściwego zadania, podajemy mu kilka przykładów wzorcowych odpowiedzi, w parach: „wejście → oczekiwany wynik”. Na ich podstawie model rozpoznaje, o co dokładnie nam chodzi i potem może odwzorować ten sam schemat odpowiedzi na nowych danych.
Technika ta jest o tyle ciekawa, że pozwala nam de facto „nauczyć” model językowy oczekiwanego przez nas schematu pracy bez właściwego treningu, przestrajania całego modelu itd. Wszystko robimy w obrębie jednej konwersacji, na bieżąco – często określa się to też mianem in-context learning, czyli uczenia z kontekstu: model wyłapuje wzorzec z tego, co akurat widzi w oknie rozmowy i od razu z niego korzysta.
Jak to może wyglądać? Prosty przykład – załóżmy, że chcemy przygotować model do tego, aby za nas ocenił sentyment opinii klientów i określił, jakie są proporcje opinii negatywnych i neutralnych do pozytywnych.
Twoim zadaniem jest ocena sentymentu opinii o produktach. Oto kilka przykładów:
Opinia: „Bluza super, materiał gruby i ciepły, gorąco polecam!”
Wydźwięk: bardzo pozytywny
Opinia: „Zamówienie przyszło po dwóch tygodniach, masakra.”
Wydźwięk: negatywny
Opinia: „Produkt zgodny z opisem, nic dodać, nic ująć.”
Wydźwięk: umiarkowanie pozytywny
Oceń, według tego schematu, opinie nadesłane przez klientów naszego sklepu (znajdziesz je w pliku PDF w załączniku). Na koniec policz, ile jest opinii negatywnych oraz neutralnych i określ, jaki odsetek wszystkich opinii stanowią.
Tak właśnie mógłby wyglądać prosty few-shot prompt dla tego zadania.
Zero-shot, one-shot, few-shot – jaka jest różnica?
Oprócz few-shot prompts, mamy też prompty zero-shot oraz one-shot.
W promptcie zero-shot nie podajemy żadnych przykładów, a jedynie opis zadania – model radzi sobie wyłącznie na podstawie tego, co sam „wie”. Natomiast one-shot to taki prompt, do którego dodajemy tylko jeden przykład idealnie wykonanego zadania.
Dlaczego ta technika jest skuteczna?
Few-shot prompting potrafi dawać świetne rezultaty, zwłaszcza w zadaniach, które wymagają od modelu językowego 1) powtarzalności i 2) zachowania bardzo konkretnego formatu i stylu odpowiedzi. Dlaczego? LLM-y są bardzo dobre w rozpoznawaniu wzorców. Jeśli pokażemy im kilka przykładów, wychwycą z nich znacznie więcej – format odpowiedzi, jej długość, ton, poziom szczegółowości – niż dałoby się ująć w instrukcji, nawet naprawdę dokładnie opisanej.
Weźmy jeszcze raz przykład z oceną sentymentu opinii. Możemy długo tłumaczyć modelowi w instrukcji, czym różni się recenzja „neutralna” od „raczej pozytywnej”… albo po prostu pokazać mu trzy przykłady każdej z nich. Ta druga opcja nie dość, że będzie dla nas dużo szybsza i łatwiejsza, to jeszcze powinna być skuteczniejsza, bo model sam wywnioskuje z tych przykładów reguły, jakimi ma się kierować w dalszej pracy.
Jak pisać prompty few-shot? Kilka wskazówek
Tak jak mówimy, few-shot prompting jest bardzo prostą techniką, bez problemu może ją stosować każdy, kto na co dzień pracuje z AI. Pamiętać trzeba tylko o kilku rzeczach:
- przykłady muszą być adekwatne do zadania, a jednocześnie różnorodne – powinny pokrywać różne warianty zadania, nie trzy razy ten sam przypadek;
- trzymamy się spójnego formatu przykładów – zapisujemy je według tego samego schematu, z identycznymi etykietami;
- przykłady trzeba też wyraźnie oddzielić od siebie; na tej samej zasadzie powinniśmy jasno określić, co jest naszym „wejściem”, a co wzorcową odpowiedzią – model nie może mieć co do tego żadnych wątpliwości;
- liczba przykładów jest mniej istotna niż ich jakość – zazwyczaj w zupełności wystarczy 3-5 dobrych przykładów, żeby model wywnioskował z nich schemat odpowiedzi; czasem, oczywiście, przyda się więcej, jeśli zadanie jest faktycznie skomplikowane i ma dużo potencjalnych wariantów odpowiedzi.
Jeśli będziesz się tego trzymać, od razu zobaczysz zmianę w jakości odpowiedzi generowanych przez AI… i niemal na pewno będzie to zmiana na lepsze. Trudno wskazać inną technikę prompt engineeringu, która daje aż tak dużo przy tak małym wysiłku.
A jeśli chcesz poznać inne techniki pracy z modelami AI i dowiedzieć się, jak je wykorzystać w marketingu i SEO – zachęcamy do lektury kolejnych wpisów w naszym słowniku oraz na blogu Semcore!
swój potencjał z
polityką prywatności
