Halucynacja AI
Kiedy AI pewnym tonem podaje rzeczy nieprawdziwe - zmyślony fakt, nieistniejące źródło, wymyśloną liczbę. Brzmi wiarygodnie, a bywa całkowicie z sufitu.
Co to właściwie znaczy
Halucynacja AI (z angielskiego „hallucination”) to sytuacja, w której model językowy podaje informację fałszywą, ale robi to z pełnym przekonaniem - jak fakt. AI nie „wie” rzeczy w ludzkim sensie; przewiduje najbardziej prawdopodobne słowa. Czasem układają się one w coś, co brzmi świetnie, a jest po prostu nieprawdą.
Przykład z życia firmy
Prosisz AI o statystykę do posta i dostajesz konkretną liczbę z „badania” - brzmi profesjonalnie, więc wklejasz. Problem w tym, że ani liczba, ani badanie nie istnieją; model je zmyślił, bo pasowały do zdania. Publikujesz nieprawdę pod swoim nazwiskiem. To najczęstszy i najgroźniejszy błąd w korzystaniu z AI.
Dlaczego to dla Ciebie ważne
To dlatego AI trzeba traktować jak zdolnego, ale niesprawdzonego stażystę: świetny do szkiców i porządkowania, niepewny przy faktach, datach, liczbach i cytatach. Ślepe zaufanie prowadzi do kompromitujących wpadek. Odpowiedzialność za to, co publikujesz, zawsze jest po Twojej stronie - „AI tak napisało” nikogo nie przekonuje.
Jak to wykorzystać
Nigdy nie publikuj faktów, liczb, cytatów ani źródeł od AI bez samodzielnego sprawdzenia. Używaj jej pewnie do tego, co bezpieczne (szkice, przeredagowania, burza mózgów na Twoim materiale), a ostrożnie do wiedzy o świecie. Dawaj jej własne, prawdziwe dane do przetworzenia, zamiast prosić, żeby je „znała”. Ufaj, ale sprawdzaj.
Powiązane pojęcia
← Wszystkie pojęcia w słowniku · Przeczytaj: Nie potrzebujesz AI →