Podsumowanie 2. miesiąca oraz Q&A

Praktycznie o GenAI na dwa sposoby

Podsumowanie 2. miesiąca

Ostatnie kilka tygodni starałem się skupić bardziej na praktycznych aspektach wdrożenia AI w firmie:

• rozłożyłem na czynniki pierwsze kwestie wyszukiwania informacji z użyciem GenAI i zaproponowałem prostą heurystykę do wyboru odpowiedniego narzędzia

• posiłkując się wykładem nieżyjącego już wiceprezesa Berkshire Hathaway, Charlesa Mungera, pokazałem jak zmienić AI w przyzwoitego doradcę biznesowego

• pokazałem też prosty sposób jak można użyć GenAI jako wsparcia dla wymyślania nowych pomysłów biznesowych w oparciu o samą instrukcję oraz drugą wersję tego samego, która bazuje na analizie publikacji naukowych z użyciem narzędzia Coral od Cohere

• starałem się też uspokoić lęki związane z potencjalnym niekontrolowanym rozwojem AI, które mogą prowadzić do niechęci w rozwoju biznesu (“a po co to wszystko, skoro i tak za 5 lat wszyscy zginiemy”) i zaniku entuzjazmu z powodu nowych możliwości

• wskazałem też (na przykładzie Moderny) jak bardzo opłaca się wdrażać GenAI od dołu, tj. od inicjatyw poszczególnych pracowników, zamiast wymyślać wszystkie zastosowania wyłącznie w salach spotkań zarządów

• osobny mail poświęciłem niusom, bo Google i Anthropic otworzyły się na Europę, a OpenAI udostępnił nowy model, który już powinien zastąpić leciwy GPT-3.5 dla użytkowników nie korzystających z subskrypcji ChatGPT Plus

• na szkolenie z BizYou dotyczące zastosowania GenAI w HR (dwa intensywne dni na żywo) wciąż są jeszcze wolne miejsca!

Q&A

Przez ostatnie tygodnie dostałem sporo pytań, które zaczynają się powtarzać, więc co jakiś czas będę dodawał je do newslettera. Dziś pierwsza porcja. Jeśli macie jakieś pytanie, wystarczy odpowiedzieć na tego maila - dołączę odpowiedź do następnej edycji.

Dlaczego tylko ChatGPT? Przecież są też inne modele. Czy na pewno ChatGPT jest najlepszy?

To pytanie ma wiele odmian, ale w gruncie rzeczy dotyczy głównie tego, dlaczego wspominam w newsletterze głównie rozwiązania od OpenAI.

Podstawowym powodem jest to, że OpenAI ma najbardziej rozbudowany interfejs dla użytkowników biznesowych (czat, własne GPT, generowanie obrazów, prywatna przestrzeń dla zespołu), z którego można zacząć korzystać od razu, bez żadnej inwestycji w infrastrukturę. Dla firm, które dopiero zaczynają z GenAI, to najprostsza i najłatwiejsza w implementacji forma wejścia w ten świat. Co więcej, od jakiegoś czasu można z OpenAI podpisać umowę na przetwarzanie danych wrażliwych (po ang. BAA, Business Associate Agreement), co umożliwia użycie tej technologii w części z branż regulowanych. Z czasem, w miarę eksploracji, możecie dojść do pewnych ograniczeń w interfejsie, ale wtedy będziecie już na etapie bardziej świadomego wyboru platformy.

Czy ja korzystam tylko z ChatGPT? Oczywiście, że nie. Do pracy z plikami PDF używam Corala od Cohere. Do analizy długiego tekstu lepiej mi się pracuje z Claude Opus. Ten ostatni zresztą generuje lepszą polszczyznę niż ChatGPT (mniej banałów, zbyt okrągłych zdań itd.). Do programowania nie używam żadnego z modeli w interfejsie czatowym a przez IDE Cursor’a, który oferuje dużo dodatkowych funkcji. Do prostszych rzeczy (np. klasyfikacja tekstu) używam małych modeli np. Haiku. Fotorealistyczne zdjęcia tworzę z dedykowanymi modelami (np. RealVis) na bazie Stable Diffussion. I tak dalej. Ale żadne z tych narzędzi nie dorównuje wszechstronności interfejsowi ChatGPT Plus (a ich “user experience” często pozostawia wiele do życzenia, lub mówiąc wprost, zaprojektowany jest pod programistów, a nie użytkowników spoza IT).

Jak mi nie wierzycie, to popatrzcie jak pieniędzmi na GenAI głosują firmy w Stanach:

Jakie jest ryzyko związane z wdrożeniem GenAI?

O prawnych aspektach się nie wypowiem - najlepiej skorzystać z usług wyspecjalizowanej kancelarii, jeśli macie wątpliwości w zakresie np. kwestii ewentualnego naruszenia praw autorskich.

Z innych obszarów to moim zdaniem największym ryzykiem dla firm jest przekonanie (które już niestety widzę u części zarządów, menadżerów i pracowników), że GenAI jest technologią, z której można korzystać w sposób nienadzorowany albo w procesie, który nie zakłada ludzkiej kontroli lub weryfikacji.

Firma Air Canada uruchomiła czatbota wsparcia klienta opartego o GenAI i skończyło z pozwem sądowym (a czatbota zamknęła). Klarna uruchomiła czatbota wsparcia klienta opartego o GenAI (ten sam model od OpenAI) i osiągnęła efekt pracy 700 osób. W drugim przypadku został zaprojektowany proces, który umożliwia lub wymusza (w zależności od sytuacji) przejęcie konwersacji przez specjalistę.

Bezmyślna automatyzacja to moim zdaniem największe ryzyko związane z wdrożeniem GenAI.

Czy można wykryć tekst wygenerowany przez GenAI?

Za tym pytaniem kryje się wiele różnych perspektyw:

• pracownik nie chce być wykryty (w sensie, że przyspiesza pracę dzięki GenAI) przez menadżerów

• firma nie chce informować klientów, że korzysta z GenAI

• pracownicy działu sprzedaży chcą udawać, że spędzili mnóstwo czasu personalizując oferty dla potencjalnych klientów

I jeszcze parę innych.

Odpowiedź to nawiązanie do poprzedniego punktu: jeśli automatyzujesz swoją pracę bez wzięcia pod uwagę ograniczeń technologii, prędzej czy później dla drugiej strony będzie oczywiste, że tekst został wygenerowany przez algorytm. Ludzie nie komunikują się okrągłymi zdaniami w stylu biznesowych broszur a treść tej komunikacji jest pełna szczegółów, o których automat może nie wiedzieć. Poza tym, nie przedstawiają się jako “model językowy”.

Przykłady takiego niedbalstwa można spotkać nawet w “recenzowanych” publikacjach naukowych, a co dopiero w komunikacji biznesowej…

Natomiast jeśli zadbasz o szczegóły a wygenerowany tekst nie będzie brzmiał jak ChatGPT, to na dzień dzisiejszy nie ma narzędzia, którego można użyć do wiarygodnej identyfikacji faktu, że został “współwygenerowany” przez GenAI. GPTZero wskazuje na tekst pisany przez imigrantów (którzy bardzo pilnują poprawności gramatycznej) jako pisany przez AI, a ZeroGPT (inny algorytm) sugeruje, że z 88% prawdopodobieństwem sztuczna inteligencja napisała… Biblię (jak powstanie kolejny film o teorii symulacji, na wzór Matrix-a, na pewno scenarzysta wykorzysta tę sugestię…).

Ciekawe niusy

Na jednym końcu GenAI są gigantyczne modele, z których można skorzystać wyłącznie przez internet, bo wymagają mocy obliczeniowej niedostępnej dla zwykłych śmiertelników (i dla większości firm spoza branży technologicznej).

Na drugim końcu są modele, które tworzy się na bazie tych większych, wycinając zbędne kompetencje, do korzystania na konsumenckim sprzęcie, lokalnie, przy zachowaniu pełnej prywatności interakcji z tym modelem.

Microsoft na wczorajszej konferencji (nie mogło zabraknąć i tej firmy po ostatnich zapowiedziach od Google’a i OpenAI) zapowiedział serię komputerów (różnych producentów) wyposażonych w procesory firmy Qualcomm, które będą mogły oferować funkcjonalności AI lokalnie, bez dostępu do internetu. Jest to odpowiedź na procesory serii M od Apple’a, które oferowały zintegrowany procesor i kartę graficzną w jednej kości. Natomiast Microsoft oprócz możliwości sprzętowych udostępni wkrótce całą rodzinę małych modeli, tak aby cieszyć się możliwościami AI nawet… na archipelagu Ziemia Franciszka Józefa (nie ma tam światłowodu, a Starlink nie oferuje tam swoich usług).

Jeśli planujecie odświeżenie komputerów w firmie, warto wziąć pod uwagę oferty firm, które oferują sprzęt “AI ready” (nową architekturę procesorów). Klasyczne konfiguracje, zwłaszcza na bazie kart graficznych od AMD mogą wypaść szybciej z obiegu, niż wskazywałaby to data zakupu.