Baza wiedzy
Dlaczego asystent AI powinien podawać źródła?
Dlaczego wskazywanie źródeł zwiększa wiarygodność odpowiedzi asystenta AI, ułatwia kontrolę i pomaga szybciej wykrywać nieaktualne informacje.
Dlaczego firmowy asystent AI powinien wskazywać źródło odpowiedzi?
Źródło pozwala sprawdzić, na jakiej podstawie powstała odpowiedź, czy materiał jest aktualny i czy rzeczywiście wspiera podany wniosek. Samo pokazanie linku nie wystarcza — źródło powinno być właściwe, dostępne dla użytkownika i możliwie precyzyjnie wskazane.
Firmowy asystent AI może brzmieć bardzo pewnie nawet wtedy, gdy odpowiedź opiera się na niepełnej lub nieaktualnej informacji. Dlatego w zastosowaniach opartych na wiedzy firmy ważna jest możliwość sprawdzenia skąd pochodzi odpowiedź i czy źródło rzeczywiście ją potwierdza.
Cytowanie nie usuwa wszystkich błędów, ale znacząco ułatwia ich wykrywanie i poprawianie.
Źródło zmienia odpowiedź w informację do sprawdzenia
Odpowiedź bez źródła może brzmieć przekonująco, lecz użytkownik nie wie, czy pochodzi z obowiązującej instrukcji, starej notatki czy ogólnej wiedzy modelu.
Wskazanie dokumentu i właściwego fragmentu pozwala szybko ocenić podstawę odpowiedzi.
Łatwiej wykryć nieaktualne dane
Jeżeli asystent odwołuje się do starego cennika lub wcześniejszej wersji procedury, źródło pokazuje, gdzie szukać przyczyny.
Bez tej informacji zespół widzi jedynie błędny wynik i musi od początku ustalać, skąd się wziął.
Użytkownik zachowuje kontrolę
Pracownik może otworzyć dokument i sprawdzić właściwy fragment przed podjęciem decyzji.
Jest to szczególnie ważne tam, gdzie odpowiedź wpływa na pieniądze, zobowiązania firmy, klienta albo działania objęte dodatkowymi procedurami.
Źródła ujawniają konflikty
Dwa dokumenty mogą zawierać różne zasady.
Dobry asystent nie powinien wybierać jednej wersji bez wyjaśnienia. Powinien wskazać konflikt, pokazać oba źródła i — jeśli to potrzebne — skierować sprawę do osoby odpowiedzialnej za rozstrzygnięcie.
Cytowanie pomaga poprawiać system
Gdy użytkownik zgłasza błąd, zespół może sprawdzić konkretny dokument, jego datę, wersję i zakres.
Dzięki temu można poprawić źródło wiedzy, regułę wyszukiwania albo sposób budowania odpowiedzi, zamiast „łatać” pojedynczy przypadek.
Sam link nie wystarczy
Pokazanie przypadkowego dokumentu obok odpowiedzi nie oznacza jeszcze, że odpowiedź jest dobrze uźródłowiona.
Dobre wskazanie źródła powinno:
- prowadzić do właściwego dokumentu;
- wskazywać wersję lub datę;
- w miarę możliwości pokazywać konkretny fragment;
- respektować uprawnienia użytkownika;
- rzeczywiście wspierać podaną odpowiedź.
Kiedy asystent powinien powiedzieć „nie wiem”?
Jeżeli nie znajduje wiarygodnego źródła, źródła są sprzeczne albo użytkownik nie ma prawa dostępu do materiału potrzebnego do odpowiedzi, bezpieczniej jasno powiedzieć, czego brakuje.
To lepsze rozwiązanie niż uzupełnianie luki przypuszczeniem podanym z dużą pewnością.