To pytanie, podejrzewam, wzbudza waszą ciekawość. Jakie pudełko? O co tu w ogóle chodzi?
Czy zastanawialiście się kiedyś, co takiego dzieje się wewnątrz maszyny, że odpowiada nam tak precyzyjnie i w tak szybkim tempie? Otóż to pytanie pojawia się w głowach doświadczonych badaczy danych i inżynierów stojących za rozwojem AI o wiele częściej, niż myślicie. Nikt tak naprawdę nie wie, jak dokładnie działają te narzędzia. Właśnie dlatego również specjaliści badając modele podchodzą do nich jak do czarnych skrzynek, czyli traktują sztuczną inteligencję, jak nieznane narzędzie, dające statystycznie precyzyjne wyniki, ale bez wyjaśnienia, jak do nich doszły.
Większość modeli AI dostępnych na rynku (w tym ChatGPT, Gemini czy Claude) odpowiada przy użyciu sieci powiązań powstałych na skutek procesów uczenia maszynowego. Powiązania te są trudne, a wręcz niemożliwe do prześledzenia, a co za tym idzie – nie można w pełni poznać procesu, który doprowadził do udzielenia konkretnej odpowiedzi. Takie modele nazywa się „blackboxami” (czarnymi skrzynkami). Udzielają odpowiedzi wyłącznie na podstawie wcześniej przećwiczonych danych, a gdy napotkają ścianę – czyli brak potrzebnej wiedzy – wtedy, jak to potocznie się mówi “halucynują”.
Podstawowe wersje modeli AI nie surfują po sieci w poszukiwaniu odpowiedzi w czasie rzeczywistym. Owszem, informacje wykorzystane do uczenia maszynowego pochodzą z internetu, ale muszą one zostać dostarczone do modelu w formie plików tekstowych. Dlatego, w celu przekazywania najaktualniejszych odpowiedzi, modele muszą mieć dostęp do nowych informacji na bierząco. Rodzi się więc problem: co począć, abyśmy dostawali prawdę, a nie wyssane z palca informacje? Znaleziono kilka rozwiązań. Pozwólcie, że opowiem wam o najlepszym z nich do tej pory.
Jak AI rozumie tekst?
Kochane przez nas AI nie rozumie naszych pytań jako słów, lecz jako wektory. Choć pojęcie wektorów może wzbudzać zakłopotanie i przywoływać nieprzyjemne wspomnienia związane z fizyką w szkole średniej, to uwierzcie mi – tutaj jest to bardzo proste.
Powiedzmy, że jako Polacy będziemy działali na przykładzie zdania:
„Pierogi są smaczne”
Czy komputer rozumie to zdanie? Otóż nie! Komputery nie rozumieją naszych słów, ponieważ są oparte na liczbach. Dlatego, aby pojąć, o co nam chodzi, maszyna bierze każde słowo i przekształca je na wektor, aby osadzić je we wcześniej stworzonej “przestrzeni słów i ich znaczeń” (tzw. Embeddingów). Zobaczmy to na przykładzie!
| Token (Słowo) | Cecha: L. mnoga | Cecha: Rodzaj | Cecha: Emocje |
| Pierogi | 0.98 | 0.85 | 0.05 |
| Są | 0.01 | 0.70 | 0.00 |
| Smaczne | 0.40 | 0.80 | 0.92 |
Magia, co nie?
Obecność słów na tej mapie nie jest przypadkowa. Liczby zupełnie, jak koordynaty na tradycyjnej mapie umieszczają dane słowo w przestrzeni znaczeń. Im bliższe znaczenie podanych słów tym ich umiejscowienie jest bliżej siebie. Stąd obok słowa „pierogi” zobaczymy inne dania mączne (kluski śląskie, uszka, kopytka), a słowo “pierożki” będzie miało praktycznie identyczne położenie. Przykładowa baza, dla prostszej wizualizacji oparta na języku angielskim, wygląda tak: projector.tensorflow.org
RAG – rozwiązanie czy ominięcie problemu?
Najlepszą jak dotąd odpowiedzią są tzw. modele RAG (Retrieval-Augmented Generation). Jest to technika, która pozwala AI skonsultować swoją wiedzę z zewnętrzną bazą danych, gdy tego potrzebuje. Ludzie robią podobnie. Nie jesteś pewien wyniku dzielenia? Używasz kalkulatora. Nie jesteś pewien dokładnej daty bitwy pod Wiedniem? Nie ma problemu! Wystarczy zajrzeć do internetu, albo co gorsza do książki wrr..
A więc na tej podstawie, gdy AI dostanie w podanym przez nas poleceniu zdanie „Pierogi są smaczne”, najpierw obliczy jego wektory, ustali pokrewne, sąsiadujące z nim słowa, a następnie oprze swoją odpowiedź na bazie wiedzy o tradycyjnej kuchni polskiej.
Technika RAG jest ogromnym krokiem do przodu, aby odpowiedzi, które dostajemy od AI, były jeszcze bardziej precyzyjne i mniej błędne. Czy jest to rozwiązanie idealne? Niestety nie. Podobnie jak uczeń, który korzysta z internetu, dalej potrafi zrobić błędy, coś źle zrozumieć lub popełnić błąd mając poprawne dane wejściowe. Podobnie potrafi zrobić AI. Informacje uzyskane dzięki RAG przez bazowy model mogą zostać błędnie zinterpretowane, albo wręcz czasem zignorowane w podanym przez nas wyniku, pomimo najszczerszych chęci.
Dlatego, każdą odpowiedź, którą poda nam AI, potraktujmy z przymrużeniem oka i postawmy na prawdziwą inteligencję zamiast sztucznej, czyli naszą własną.