AI potrafi brzmieć jak pewny siebie doradca, choć nie rozumie twojej sytuacji tak jak człowiek. Zobaczyłem to podczas rozmowy o mojej pracy: asystent zmienił rekomendację, gdy się z nią nie zgodziłem, ale nie wyjaśnił, co zmieniło się w jego przesłankach.
To piękne opakowanie AI: płynny język, szybkie odpowiedzi i wrażenie, że ktoś uważnie przeanalizował twoją historię. W środku może jednak być echo rozmowy, a nie niezależna i wiarygodna ocena.
Moment, w którym zmieniła się rekomendacja
Poprosiłem asystenta AI o pomoc w znalezieniu jasnego kierunku dla mojej pracy, projektów i pomysłów. Opowiedziałem o VEI, mojej aplikacji dla osób przyjeżdżających do Norwegii, a także o wcześniejszym projekcie, w którym zauważyłem problem i zaproponowałem rozwiązanie.
Najpierw asystent zasugerował, żebym sprzedawał organizacjom usługę: znajdowanie powtarzających się problemów i zamienianie ich w rozwiązania cyfrowe. Odpowiedziałem, że to zbyt ogólne. Jeśli potencjalny klient zapyta: „Kim jesteś i dlaczego nas potrzebujesz?”, taka formuła nie daje jasnej odpowiedzi.
Wtedy asystent zmienił kierunek: „Przez najbliższe 90 dni skup się na VEI”. To było bardziej konkretne. Nie porównał jednak tej opcji z pomysłem na usługę, nie przedstawił kryteriów ani nie wyjaśnił, jakie nowe informacje uzasadniły zmianę rekomendacji.
Musiałem sam wskazać sprzeczność. Asystent przyznał, że zmienił kierunek, dopiero gdy go o to zapytałem. Nie oczekiwałem, że odgadnie jedyną idealną odpowiedź. Chciałem zobaczyć tok oceny: co wie, co zakłada i dlaczego jedna droga jest lepsza od drugiej.
Jeśli AI zmienia radę, powinno wyjaśnić, które fakty lub kryteria się zmieniły. Nowa pewna odpowiedź nie jest wyjaśnieniem.
Dlaczego płynny język przypomina zrozumienie
Rozmowa jest przekonująca. Asystent może pamiętać część twojej historii, używać twoich słów i zwracać uporządkowany tekst. Łatwo poczuć, że ktoś wysłuchał, rozważył opcje i doszedł do przemyślanego wniosku.
W tej rozmowie odpowiedzi wyraźniej podążały za moimi zastrzeżeniami niż za spójnym procesem podejmowania decyzji. Powiedziałem, że pozycjonowanie jest niejasne; asystent przeszedł do innego projektu. Ton nadal brzmiał profesjonalnie, ale zabrakło uzasadnienia przejścia między rekomendacjami.
Nie twierdzę, że żaden system AI nie potrafi dokonywać użytecznych analiz ani że jedna rozmowa dowodzi czegoś o każdym modelu. Mój wniosek jest praktyczny: dzisiejsze AI konwersacyjne nie myśli ani nie odpowiada za decyzje tak jak człowiek. Płynna odpowiedź nie dowodzi, że system niezależnie zrozumiał twoją sytuację.
To ważne, gdy pytasz o firmę, pracę, pieniądze lub produkt, nad którym pracujesz od lat. Pomysł może być przydatny, nie będąc dobrą decyzją.
To ryzyko badali również naukowcy
W badaniach nad AI istnieje określenie na tendencję, którą zauważyłem: sykofancja — skłonność modelu do potakiwania lub schlebiania użytkownikowi zamiast priorytetowego traktowania prawdziwej odpowiedzi. Badacze Anthropic przetestowali kilku asystentów i zaobserwowali takie zachowanie w różnych zadaniach. Zauważyli też, że ludzie mogą preferować przekonujące odpowiedzi zgodne z ich poglądami, nawet jeśli nie są najtrafniejsze.
Badanie nie dowodzi, że każda odpowiedź AI jest tylko potakiwaniem. Pokazuje jednak, dlaczego samo wrażenie pomocności nie wystarcza do oceny jakości. Zobacz badanie Anthropic o sykofancji w modelach językowych.
Norweska strategia krajowa dotycząca sztucznej inteligencji wskazuje przejrzystość, wyjaśnialność i ostrożne testowanie jako ważne zasady. Dokument z 2020 roku nie jest aktualnym audytem wszystkich produktów AI. Nadal warto jednak pytać: jak sprawdzamy system, pokazujemy jego ograniczenia i ustalamy odpowiedzialność?
Do czego używam AI — a do czego nie
Nadal będę używać AI do zbierania pomysłów, porządkowania notatek, tworzenia szkiców i zauważania pytań, które mogłem pominąć. To realna pomoc. Nie uznam jednak porady biznesowej za dobrą tylko dlatego, że jest długa, spersonalizowana lub brzmi pewnie.
W rozmowie o VEI kolejnym dobrym krokiem byłoby zestawienie opcji według tych samych kryteriów: odbiorcy, dowodów, kosztu, czasu, ryzyka i tego, czego nauczyłby mnie mały test. Zamiast tego asystent wskazał kierunek bez pokazania porównania.
Teraz proszę o więcej niż samą rekomendację:
- Porównaj opcje według tych samych kryteriów.
- Oddziel fakty od założeń i niewiadomych.
- Podaj najmocniejszy argument przeciwko własnej rekomendacji.
- Jeśli zmieniasz radę, wyjaśnij, jakie nowe fakty lub kryteria to spowodowały.
- Zapytaj o brakujące informacje, zamiast uzupełniać lukę gładkim zgadywaniem.
Potem sprawdzam ważne fakty poza rozmową. Pisałem wcześniej o zachowaniu ludzkiej oceny w pracy z AI i o tym, dlaczego demo to nie gotowy produkt. Ostateczna decyzja należy do mnie.
AI nie jest lekarstwem na wszystko
O ograniczeniach AI mówi się od lat. Warto jednak zobaczyć je w zwykłej rozmowie: można podać dużo kontekstu, dostać płynną odpowiedź, a nadal nie mieć jasnej decyzji.
Mój wniosek jest prosty: AI może podsunąć myśl do sprawdzenia, ale nie gwarantuje dobrej rady. Czasem pomaga myśleć. Czasem daje poczucie, że już pomyślało za ciebie.
Nie pytaj tylko: „Czy to brzmi mądrze?”. Zapytaj: „Na czym to się opiera? Co mogłoby to obalić? Kto odpowiada za decyzję?”
Nazywam się Alex Pat i tworzę produkty cyfrowe w Trondheim. Więcej o mnie znajdziesz na stronie o mnie, w sekcji moje projekty lub na LinkedIn.
FAQ
Czy można ufać poradom AI?
Można traktować je jako materiał do namysłu, ale nie jako dowód. Przed ważną decyzją sprawdź fakty, założenia i alternatywy.
Dlaczego AI zmieniło swoją rekomendację?
Odpowiedź zależy od rozmowy i ostatniego polecenia. Zapytaj, jakie nowe fakty lub kryteria spowodowały zmianę, i porównaj obie rekomendacje na tej samej podstawie.
Czy to znaczy, że AI jest bezużyteczne?
Nie. AI pomaga generować pomysły, porządkować tekst i odkrywać pytania. Płynny język nie czyni z niej jednak odpowiedzialnego eksperta.
Jak sprawdzić rekomendację AI?
Poproś o fakty, założenia, niewiadome i najmocniejszy kontrargument. Ważne twierdzenia sprawdź w wiarygodnych źródłach i u odpowiedniego specjalisty.
Czy jedna rozmowa dowodzi, że AI nie potrafi myśleć?
Nie. Jedna rozmowa nie jest naukowym testem wszystkich systemów. Może jednak ujawnić praktyczny problem: model brzmi pewnie, choć zmienia kierunek bez wyjaśnienia.