Kto odpowiada, gdy agent AI się pomyli
Co, jeśli agent się pomyli? To najczęstsze pytanie przed wdrożeniem, a jedyne uczciwe podejście do niego zaczyna się od założenia, że kiedyś się pomyli. Ludzie też się mylą. Ważniejsze jest, kto wtedy odpowiada, wobec kogo i jak zawczasu ograniczyć skutki. Poniżej trzy poziomy odpowiedzialności i zabezpieczenia, które warto mieć spisane przed startem. To nie jest opinia prawna, tylko porządek pytań, z którymi warto pójść do swojego prawnika.
- Wobec klienta za słowa i działania agenta odpowiada firma, która go używa, tak jak odpowiada za treść własnej strony i mail pracownika.
- W 2024 roku kanadyjski trybunał odrzucił argument linii Air Canada, że jej chatbot jest odrębnym bytem odpowiedzialnym za własne odpowiedzi.
- Ryzyko ogranicza się projektem: progami kwotowymi, przekazaniem spraw człowiekowi i logami, a nie zastrzeżeniem w stopce.
Wobec klienta odpowiada firma
Najgłośniejsza sprawa tego rodzaju dotyczyła linii Air Canada. Chatbot na jej stronie poinformował pasażera, że o zniżkową taryfę żałobną może wystąpić po zakupie biletu, co było sprzeczne z regulaminem. Gdy linia odmówiła zwrotu, pasażer poszedł do trybunału. Air Canada argumentowała, że chatbot jest odrębnym bytem i sam odpowiada za swoje słowa. Trybunał w Kolumbii Brytyjskiej odrzucił to w lutym 2024 roku: chatbot jest częścią strony przewoźnika, a firma odpowiada za wszystkie informacje na swojej stronie, niezależnie od tego, czy podaje je statyczna podstrona, czy chatbot.
To orzeczenie kanadyjskie, ale zasadę polski przedsiębiorca zna z codziennej praktyki. Jeśli firma posługuje się narzędziem albo osobą do obsługi klienta, to wobec klienta odpowiada ona. Agent nie jest stroną umowy, a zdanie, że odpowiedzi udzielił system, nie zwalnia z tego, co klientowi obiecano.
Trzy poziomy odpowiedzialności
| Relacja | Kto odpowiada | Gdzie to uregulować |
|---|---|---|
| Twoja firma i klient | Twoja firma, za informacje i działania agenta | Regulamin, treść odpowiedzi, granice działania agenta |
| Twoja firma i dostawca wdrożenia | Dostawca, w zakresie zapisanym w umowie | Umowa: zakres zadań, limity odpowiedzialności, obowiązek poprawek |
| Dostawca i producent modelu | Producent modelu, na warunkach swoich umów | Umowy dostawcy. Dla Ciebie ważne, żeby obejmowały ochronę danych |
Najwięcej zależy od poziomu drugiego, bo tylko na niego masz realny wpływ przy podpisywaniu umowy. Warto zapytać, do jakiej kwoty dostawca odpowiada, czy poprawia błędy na własny koszt i jak szybko, oraz co się dzieje, gdy agent zadziała poza ustalonymi granicami.
Co zmienia prawo w 2026 roku
Dwie daty. Od 2 sierpnia 2026 roku stosuje się art. 50 AI Act: odbiorca musi wiedzieć, że ma do czynienia z systemem AI. Zatajenie tego nie tylko narusza przepis, ale też pogarsza pozycję firmy w każdym sporze o to, co klientowi przekazano.
Do 9 grudnia 2026 roku państwa członkowskie mają wdrożyć nową dyrektywę o odpowiedzialności za produkty wadliwe (2024/2853), która wprost obejmuje oprogramowanie, w tym systemy AI, wprowadzone do obrotu po 8 grudnia 2026 roku. Dotyczy ona szkód poniesionych przez osoby fizyczne i nie rozstrzyga sporów między firmami o utracony zysk, ale pokazuje kierunek: oprogramowanie przestaje być traktowane łagodniej niż rzeczy.
Jest też przepis, który działa od dawna i ma znaczenie przy każdym agencie obsługującym konsumentów: na reklamację trzeba odpowiedzieć w 14 dni, a brak odpowiedzi oznacza jej uznanie. Agent, który przyjmuje zgłoszenia i od razu je rejestruje, ułatwia dotrzymanie tego terminu.
Zabezpieczenia, które ustala się przed startem
Granice działania. Lista tego, co agent robi sam, co przygotowuje do akceptacji i czego nie robi nigdy. Rabaty, korekty i uznania reklamacji powyżej ustalonej kwoty zawsze przechodzą przez człowieka.
Odpowiedzi tylko ze źródeł. Agent odpowiada na podstawie danych z systemów i dokumentów firmy. Gdy ich nie ma, przekazuje sprawę, zamiast formułować prawdopodobną odpowiedź.
Pełny zapis decyzji. Co agent przeczytał, skąd wziął dane i co wysłał. W sporze z klientem to jedyny sposób, żeby ustalić, co faktycznie zostało powiedziane.
Informacja, że odpowiada AI. Jedno zdanie w treści odpowiedzi. Spełnia wymóg art. 50 AI Act i uczciwie ustawia oczekiwania klienta.
Zapisy w umowie z dostawcą. Zakres odpowiedzialności, czas reakcji na błąd i zasada, że poprawki reguł po błędzie agenta nie są dodatkowo płatne.
Zmiana, od której zaczyna się rozsądna rozmowa o ryzyku. Błędów nie da się wykluczyć ani u ludzi, ani u agenta. Da się ustalić, ile może kosztować pojedynczy błąd i kto go naprawia.
Najczęstsze pytania
Kto odpowiada za błąd agenta AI wobec klienta?
Firma, która agenta używa. Wobec klienta nie ma znaczenia, czy informację podał pracownik, strona internetowa czy system AI. Rozliczenie z dostawcą wdrożenia to osobna sprawa, uregulowana w umowie między firmami.
Czy zastrzeżenie, że odpowiedzi AI mogą zawierać błędy, chroni firmę?
W ograniczonym stopniu. Informacja, że odpowiada AI, jest obowiązkowa i potrzebna, ale nie uchyla odpowiedzialności za to, co klientowi obiecano. Skuteczniejsze są progi kwotowe i przekazywanie spraw człowiekowi.
Co powinno być w umowie z dostawcą agenta?
Zakres zadań agenta, górna granica odpowiedzialności dostawcy, czas reakcji na błąd, obowiązek poprawek na jego koszt oraz dostęp do pełnych logów decyzji. Umowę warto dać do przeczytania prawnikowi.