Proste zastosowania GenAI w firmach oraz inżynieria promptów

Pierwszy szkic, przeciętny konsultant oraz księgi zaklęć

Podniesienie średnich kompetencji w firmie

Jak wspominałem w pierwszym poście tego newslettera, obecna generacja modeli generatywnej sztucznej inteligencji jest jak nieskończenie cierpliwy student 3. roku wszystkich kierunków, którego trudno nauczyć czegokolwiek.

Wszystkich kierunków.

Bardzo łatwo zapomnieć, próbując zmusić modele generatywne do automatyzacji skomplikowanych zadań (na co, w przypadku większości firm, jest mocno za wcześnie), że modele językowe mają szerszą niż nasza wiedza i uczyły się na tekstach dotyczących wszystkich tematów. Co za tym idzie?

Z punktu widzenia prawnika, model prawdopodobnie wygeneruje od niego lepszy pierwszy szkic tekstu reklamowego dotyczącego usług prawnych. Czy specjalista zrobi to lepiej? Oczywiście.

Z punktu widzenia osoby zajmującej się komunikacją marketingową, model prawdopodobnie wygeneruje lepszy i bardziej spójny szkic planu wieloletniego dużego projektu badawczego. Czy specjalista zrobi to lepiej? No jasne.

Z punktu widzenia nauczyciela, model prawdopodobnie wygeneruje lepszy i bardziej kompletny szkic wniosku do gminy o dotację na projekt edukacyjny. Czy specjalista zrobi to lepiej? Niestety, nie ma to znaczenia, nauczyciela i tak na niego nie stać.

GenAI jest jak taki przeciętnie kompetentny konsultant od wszystkiego. Nie zastąpi specjalisty, ale doradzi, dostarczy feedback, lub wykona proste prace. Z punktu widzenia zarządzających firmami albo ekspertów, którzy nie wykonują zadań spoza obszaru swojej ekspertyzy, taki konsultant jest w zasadzie bezużyteczny. Ale GenAI jest jak przeciętnie kompetentny, ale niezwykle tani konsultant (tani nie oznacza darmowy - jeszcze przez jakiś czas będę powtarzał w prawie każdym newsletterze: płatna wersja ChatGPT jest o niebo lepsza od darmowej). Na tyle tani, żeby zaoferować jego usługi wszystkim pracownikom.

Do czego mogą oni go użyć? Na przykład:

• do napisania grzecznej odpowiedzi na email klienta pełen obelg, wyzwisk i mocno nieadekwatnych zarzutów, zamiast zagryzać zęby samemu

• do wygenerowania drugiej opinii na temat tego, czy plan projektu jest sensowny, logiczny, i czy nie zawiera żadnych dziur, bo samemu się nie jest pewnym czy się zgadza, a nie ma współpracownika, którego można zapytać

• do stworzenia pierwszego szkicu oferty na nowy produkt/usługę, zwłaszcza jeśli nie ma wewnętrznej bazy podobnych dokumentów, albo poszerzanie oferty zdarza się bardzo rzadko (i nie ma osoby odpowiedzialnej za komunikację)

• do naprawienia/rozszerzenia bardzo lakonicznej oferty produktu na Allegro

• do stworzenia prostego podsumowania recenzji użytkowników jakiegoś produktu lub w sieci

I tak dalej, i tak dalej.

Wiele firm szuka powtarzalnych elementów w procesach biznesowych, które dadzą się prawie w całości zautomatyzować. To świetny pomysł, ale jako kolejny krok, po tym, jak narzędzia takie jak Claude/ChatGPT trafią do pracowników i zostaną oni przeszkoleni w tym jak i do czego można tego użyć.

Przeszkolić, ale z czego? Od dłuższego czasu stoję na stanowisku, że na pewno nie z zaawansowanych technik “promptowania”. Warto wiedzieć jakie są zasady, ale… oczekiwanie, że osoby, które byłyby w firmie zainteresowane podpowiedziami w stylu przykładów wymienionych wyżej, nauczą się pisania instrukcji dla GenAI jest równie naiwne, jak oczekiwanie, że wszystkie osoby korzystające w firmie z Excela nauczą się języka Visual Basic.

Najlepiej delegować pisanie instrukcji do modeli językowych do… modeli językowych.

Zamiast inżynierii promptów i ksiąg czarów

Bardzo nie lubię metafory “inżynieria promptów/instrukcji”, dlatego, że implikuje ona, że jest jakaś 100% powtarzalna metoda osiągnięcia zakładanego rezultatu.

Tymczasem i podstawy teoretyczne generatywnej sztucznej inteligencji i praktyka pracy z ChatGPT i innymi modelami kilkanaście miesięcy pokazują, że ta sama wycyzelowana instrukcja (nad którą spędziłeś/łaś długie godziny) przestaje działać i nie masz na to żadnego wpływu.

Spróbujcie sobie wyobrazić świat, gdyby tak wyglądała “inżynieria samochodów”.

I nie chodzi o to, że wyniki się zmieniają - zmieni się model i należy się spodziewać, że stare instrukcje przestaną tak dobrze działać. Ale wysiłek w stworzenie własnej księgi czarów (kolekcja promptów) powinien być jak najmniejszy, bo zmienność wpisana jest w charakter tej technologii.

Czego więc uczyć pracowników? Na początek: eksperymentowania w określony sposób.

Krok 1: określ, czego chcesz i poproś model językowy (np. ChatGPT), żeby wygenerował dla siebie instrukcję.

Dla przykładu:

Chcę zweryfikować plan projektu z obszarze nowych technologii pod kątem spójności i logiki ułożenia zadań. Napisz instrukcję dla modelu językowego, który ma wykonać to zadanie. Przed wygenerowaniem odpowiedzi, zadaj mi dodatkowe pytania (zamknięte), jeśli masz wątpliwości.

Ostatnie zdanie jest ważne - pewnie o czymś nie pomyśleliśmy, a warto byłoby to uwzględnić w instrukcji.

W tym konkretnym przypadku odpowiedziałem na sześć dodatkowych pytań i dostałem to (obciąłem, bo długie było):

Twoim zadaniem jest zweryfikować plan projektu z szerokiego zakresu nowych technologii. Plan jest szczegółowy, zawiera informacje o zespołach lub osobach odpowiedzialnych za poszczególne zadania oraz konkretny harmonogram z deadline'ami. Kryteria sukcesu projektu zostaną przedstawione w dostarczonym planie. Przy ocenie planu, zwróć uwagę na następujące elementy:

Spójność logiczna: Upewnij się, że kolejność zadań jest logiczna i możliwa do wykonania w kontekście technologicznym. Zwróć uwagę na to, czy zadania nie wymagają technologii lub zasobów, które będą dostępne dopiero po realizacji innych zadań w planie.

Zależności między zadaniami: Analizując plan, identyfikuj potencjalne zależności między zadaniami, które nie zostały wyraźnie określone. Zasugeruj, jakie zadania powinny być (…) (instrukcja ciągnie się jeszcze dalej)

Model zadał dodatkowe pytania i zwrócił instrukcję, która:

a.) jest lepsza niż cokolwiek, co wymyśliłbym w minutę, której potrzeba było na wygenerowanie odpowiedzi przez ChatGPT

b.) jest lepsza niż cokolwiek, czego nauczyłbym się na szkoleniu z pisania instrukcji (promptowania), bo nie zawiera niczego, co byłoby specyficzne dla aktualnej generacji GenAI (tzn. będzie podobne do instrukcji dla innej osoby), np. trików “dam ci stówę”, które raz działają, a raz nie.

Krok 2: Użyj instrukcji (wraz z odpowiednią wkładką, jeśli trzeba)

Ten krok jest dość oczywisty. Wklejamy do ChatGPT instrukcję, kilka stron tekstu np. tego planu (jeśli jest za długi, trzeba skrócić, lub użyć modelu, który akceptuje więcej tekstu, np. Claude 3, albo Gemini 1.5).

Pamiętałbym tylko o tym, że z dodatkowych materiałów, które dostanie model językowy usunąć dane osobowe.

Krok 3: Zapisz wszystkie kroki we współdzielonym dokumencie, żeby inni mogli podejrzeć.

Tak, wiem, że są interfejsy do ChatGPT, które mogą przechowywać instrukcje do użycia przez innych. Są rozszerzenia do przeglądarek. Jest też w końcu mechanizm tworzenia własnych “asystentów” przez interfejs, który dostarcza OpenAI, żeby nie trzeba było nawet wklejać instrukcji.

Ale to wciąż są kroki, które firmy podejmują za wcześnie. Zamiast usamodzielniać pracowników w obszarze GenAI, czynią ich zależnymi od “magika od sztucznej inteligencji”.

Zapisanie tych kroków w dokumencie, w którym Basia z księgowości może podejrzeć jak Zosia z marketingu wygenerowała instrukcję do pisania maili jest świetnym sposobem, żeby podnieść kompetencje w firmie, nie uzależniając się od jednej osoby, czy firmy doradczej.

Wyobraź sobie, co się wydarzy, jeśli firma zmieni dostawcę technologii GenAI (np. zamiast OpenAI będzie to Anthropic, albo Google). Jeśli pracownicy zrozumieją jak eksperymentować, w kilka dni przestawią się na nowy model samodzielnie. Jeśli GenAI zostanie im przyniesione w pudełku, ten proces nie będzie szybki… ani tani.

Ciekawe niusy

Spośród wszystkich dotychczasowych prób zbudowania ekwiwalentu JARVIS-a Tony’ego Starka z filmów wytwórni Marvel (inteligentnego asystenta głosowego), Open Interpreter O1 jest chyba najbliżej. Żeby zobaczyć przyszłość, bardzo polecam to ośmiominutowe wideo:

https://twitter.com/OpenInterpreter/status/1770821439458840846

(nie wymaga konta na Twitterze/X)

Miłego dnia!

Jeśli otrzymałeś/łaś tego maila od kogoś, a chcesz, żeby przychodził bezpośrednio na Twoją skrzynkę, możesz bezpłatnie zapisać się tutaj: