Co to znaczy rozumieć?

Kot nie zna słowa "korytarz". Ale rozumie topografię swojego mieszkania.
Ma wewnętrzną mapę - wie, gdzie są przejścia, kryjówki, miejsca do obserwacji. Potrafi przewidzieć, co się stanie, gdy pobiegnie w lewo zamiast w prawo. Ta mapa działa. Pozwala mu skutecznie poruszać się w przestrzeni, planować ruchy, unikać zagrożeń.
Słownikowa definicja odmówiłaby kotu rozumienia - nie operuje on pojęciami, nie zwerbalizuje swojego modelu przestrzennego. Ale intuicja podpowiada, że coś tu nie gra. Kot rozumie. I to całkiem sporo.
Albo weźmy dziecko uczące się jeździć na rowerze. W pewnym momencie - jedzie. Nie umie wyjaśnić jak balansuje, nie zna fizyki równowagi, nie opisze słowami co robi z ciężarem ciała. Ale coraz lepiej wie jak to robić. Buduje mentalny model - motoryczny, niewerbalny, w pełni funkcjonalny.
I teraz odwrotny przypadek: ktoś przeczytał stosowny podręcznik fizyki, umie wytłumaczyć mechanikę jazdy na rowerze, zna równania opisujące równowagę. Ale nigdy nie jeździł. Siada - i wywraca się. Co tak naprawdę rozumie?

Proponuję inną definicję (rozwiniętą w innym wpisie na tym blogu).
Rozumienie to posiadanie modelu rzeczywistości - zewnętrznej lub wewnętrznej - który pozwala skutecznie przewidywać co się stanie i adekwatnie działać.
Lepsze rozumienie oznacza posiadanie lepszego modelu: trafniejsze przewidywania, skuteczniejsze działanie, szybszą korektę gdy coś idzie nie tak.
To definicja, która nie zakłada używania słów i symboli. Kot rozumie przestrzeń bez pojęcia "przestrzeń". Skrzypek rozumie muzykę nawet bez teorii harmonii.
Rozumienie nie jest czarno-białe. To skala, nie przełącznik. Można rozumieć częściowo, trochę, w wąskim zakresie. Każdy z nas jest gdzieś na tej skali, zależnie od dziedziny.
Rozumienie jest weryfikowalne praktycznie. Kryterium jest jego skuteczność, nie elokwencja przekazu.

Rozumienie ma wiele twarzy.

Model może być motoryczny (jak jeździć na rowerze), przestrzenny (jak nawigować w nieznanym mieście), społeczny (jak odczytać intencje rozmówcy), emocjonalny (jak przewidzieć własną reakcję na sytuację), symboliczny (jak rozumować o abstrakcjach). To ostatnie - symboliczne, werbalne - jest tym, które zazwyczaj mamy na myśli mówiąc "rozumienie." Ale to tylko jeden typ spośród wielu. Faworyzowanie go to błąd kulturowy.

Dwa aspekty rozumienia.

Warto odróżnić dwa aspekty, które razem składają się na jakość rozumienia.
Pierwszy to głębokość modelu w danej dziedzinie. Im więcej danych, im lepsza ich struktura - tym trafniejsze przewidywania. Doświadczony szachista rozumie grę głębiej niż początkujący, bo zbudował bogatszy model relacji między figurami, pozycjami, strategiami. System AI może go pod tym względem łatwo prześcignąć - dysponuje większą ilością danych i sprawniej je strukturyzuje.
Drugi to wielowymiarowość modelu - zdolność do integrowania różnych typów danych jednocześnie: obrazów, dźwięków, emocji, wartości, celów, wspomnień. Ten wymiar jest trudniejszy do rozwinięcia, ale daje coś cennego: możliwość krzyżowej weryfikacji. Kiedy model słowny mówi jedno, a intuicja emocjonalna drugie, pojawia się sygnał, że coś wymaga przemyślenia. Osoba dysponująca tylko jednym bardzo rozwiniętym modelem, nie ma tego mechanizmu korekty. Może budować wewnętrznie spójne, ale oderwane od rzeczywistości konstrukcje.
Głęboki model jednostronny i model wielowymiarowy to nie alternatywy - można rozwijać oba. Ale każdy z nich daje inne przewagi i inne ryzyka.

A co z AI?

Wróćmy do Znanego Fizyka. Jeśli przyjmiemy proponowaną tu definicję - AI rozumie. W swoim środowisku, swoją domenę, na swój sposób. Duże modele językowe wytworzyły reprezentacje relacji między pojęciami, kontekstami, logikami argumentacji - reprezentacje, które działają predykcyjnie i w wielu różnych zadaniach. To spełnia kryteria rozumienia.
Jednocześnie ich rozumienie jest jednostronne - wyłącznie symboliczne, pozbawione weryfikacji przez inne typy danych. To powoduje charakterystyczne ryzyko: błędy nawarstwiające się jako logiczne konsekwencje przyjętych założeń, których sam system nie ma jak wykryć, bo model wydaje się wewnętrznie spójny.
Różnica między AI a człowiekiem nie polega zatem na tym, że jedna strona "rozumie" a druga "nie rozumie." Polega na architekturze rozumienia: jego zakresie, typach modeli, dostępności mechanizmów krzyżowej weryfikacji.

Na koniec:

Rozumienie nie jest przywilejem człowieka ani nawet istot z mózgiem. Jest uniwersalną funkcją systemów, które budują wewnętrzne modele rzeczywistości - od pszczoły orientującej się w przestrzeni po człowieka rozumiejącego relacje abstrakcyjne.
Różne są typy tych modeli, ich złożoność, ich zakres. Ale cel jest zawsze ten sam: przewidywać i działać. Skutecznie.