Ostatnia aktualizacja: 2026-09-21
- Działania odwracalne i łatwe do sprawdzenia mogą wymagać mniej kontroli niż czynności wpływające na klienta lub warunki handlowe.
- Dostęp do danych trzeba oddzielić od prawa do zapisu, wysyłki komunikacji i zmiany ustaleń handlowych.
- Większa samodzielność powinna wynikać z testów, pilotażu i monitoringu.
Definicja: Zakres autonomii asystenta AI to określony dla konkretnego zadania zakres decyzji i działań, które system może wykonać bez ręcznej akceptacji. Ocena obejmuje skutek błędu, odwracalność działania, wpływ na klienta, zakres danych i uprawnień oraz dostępny nadzór człowieka.
Autonomia AI w sprzedaży dotyczy zadań, nie całego narzędzia
Najbezpieczniej określać autonomię osobno dla poszczególnych czynności. Nazwa produktu nie mówi jeszcze, czy system tylko rekomenduje następny krok, przygotowuje rezultat, czy wykonuje operację w narzędziu. Dlatego ocena powinna dotyczyć jednocześnie zadania, danych, uprawnień i warunków wykonania.[6][7]
Asystent, automatyzacja i agent — robocze rozróżnienie
- Asystent AI
- Wspiera człowieka przez analizę, rekomendacje lub przygotowanie rezultatu.
- Automatyzacja
- Realizuje wcześniej określony krok procesu w ustalonych warunkach.
- Agent AI
- Może wykonywać określone działania z użyciem udostępnionych narzędzi.
To rozróżnienie ma charakter roboczy. Producenci mogą używać nazw „asystent” i „agent” w różny sposób, dlatego o rzeczywistym poziomie autonomii powinny decydować dostępne operacje, a nie etykieta produktu.[3][4]
Dlaczego jedno narzędzie może mieć kilka poziomów autonomii
System może przygotowywać treść bez akceptacji, zapisywać wynik dopiero po zatwierdzeniu i całkowicie blokować samodzielną zmianę warunków handlowych. Nadzór powinien być proporcjonalny do ryzyka konkretnej czynności, a nie jednakowy dla całego rozwiązania.[9]
Punktem wyjścia jest lista czynności. Przy każdej należy określić, czy AI tylko podpowiada, przygotowuje rezultat, zapisuje dane, wysyła komunikację czy wykonuje inną operację mającą skutek dla klienta.
Najpierw oceń ryzyko konkretnego działania
Poziom autonomii powinien zależeć od konsekwencji błędu, odwracalności działania, wpływu na klienta oraz zakresu dostępu do danych i systemów. Im trudniej usunąć skutek błędnej operacji, tym węższe powinny być uprawnienia albo silniejszy nadzór człowieka.[6][10]
Pięć pytań przed przekazaniem zadania AI
| Kryterium | Pytanie diagnostyczne | Znaczenie dla autonomii | |
|---|---|---|---|
| Skutek błędu | Co może się wydarzyć, jeśli wynik będzie nieprawidłowy? | Większy skutek przemawia za ograniczeniem samodzielności lub kontrolą przed wykonaniem. | |
Macierz nie tworzy uniwersalnej punktacji. Kryteria trzeba odnieść do branży, umów, procesu sprzedaży i możliwości organizacji. Decyzję należy udokumentować osobno dla każdego zadania.
Odwracalne technicznie nie zawsze znaczy odwracalne biznesowo
Możliwość cofnięcia wpisu w systemie nie oznacza jeszcze, że można usunąć wszystkie skutki działania. Jeśli rezultat został przekazany klientowi, sama korekta danych może nie przywrócić wcześniejszej sytuacji. Ocena odwracalności powinna więc obejmować zarówno operację techniczną, jak i jej wpływ na proces sprzedaży.
Nadaj AI uprawnienia adekwatne do działania
Uprawnienia należy dzielić warstwowo: osobno do odczytu danych, rekomendowania, przygotowywania treści, zapisu w systemie, wysyłki komunikacji i zmiany warunków handlowych. Dzięki temu AI może wspierać proces bez otrzymywania szerszego dostępu, niż wymaga konkretne zadanie.
Jako punkt wyjścia można rozważyć większą samodzielność przy działaniach odwracalnych i łatwych do sprawdzenia, a zatwierdzanie człowieka przy działaniach o skutkach handlowych lub prawnych. Nie jest to jednak uniwersalna reguła: ocena zależy od procesu, branży, umów, danych i jakości kontroli.[3][5]
Od odczytu danych do wysyłki wiadomości
| Rodzaj działania | Przykład w sprzedaży | Możliwy zakres autonomii | Wymagany nadzór lub ograniczenie |
|---|---|---|---|
| Analiza | Podsumowanie informacji lub wskazanie następnego kroku | Przygotowanie wyniku bez wykonywania operacji | Możliwość sprawdzenia źródeł i przekazania wyjątku człowiekowi |
| Przygotowanie treści | Draft wiadomości do klienta | Utworzenie propozycji | Akceptacja przed wysyłką, jeśli wiadomość może wywołać skutek handlowy |
| Zapis w systemie | Notatka w CRM | Zapis w ograniczonym zakresie | Logowanie operacji i możliwość korekty |
| Komunikacja | Wysłanie follow-upu | Działanie tylko w zatwierdzonych przypadkach | Warunki zatrzymania i eskalacji |
| Zmiana warunków | Zmiana ceny lub warunków oferty | Rekomendacja albo przygotowanie propozycji | Zatwierdzenie przez uprawnioną osobę |
W przypadku wdrożenia AI w HubSpot CRM tę samą ocenę trzeba przeprowadzić dla rzeczywistych ról i operacji dostępnych w danej konfiguracji. Integracja z konkretnym narzędziem nie zmienia zasady minimalnego zakresu dostępu.
Dane stałe i dane bieżące wymagają różnych źródeł
Regulaminy i opisy produktów można wersjonować w bazie wiedzy. Dostępność, status zamówienia czy saldo powinny natomiast pochodzić z aktualnego systemu. Dokładny podział zależy od architektury i źródeł danych firmy.[1][2]
Prawo do odczytu aktualnych danych nie powinno automatycznie oznaczać prawa do ich zmiany. Każda operacja zapisu, wysyłki lub modyfikacji warunków wymaga osobnej decyzji o uprawnieniach i nadzorze.
Zaprojektuj nadzór człowieka i ścieżkę eskalacji
Nadzór człowieka powinien określać moment kontroli, zakres sprawdzania, warunki eskalacji, możliwość odmowy oraz osobę odpowiedzialną za rezultat. Samo dodanie etapu akceptacji nie wystarcza, jeśli osoba zatwierdzająca nie wie, co ma ocenić i kiedy powinna zatrzymać działanie.[6][7]
Co powinien widzieć i oceniać człowiek
- Czy osoba zatwierdzająca widzi dane wykorzystane przez AI i przygotowany rezultat?
- Czy ma jasne kryteria akceptacji i odrzucenia?
- Czy może poprawić wynik bez uruchamiania całego procesu od początku?
- Czy wiadomo, kto odpowiada za ostateczną decyzję?
- Czy operacja pozostawia zapis umożliwiający późniejszą weryfikację?
Human-in-the-loop, czyli udział człowieka w procesie, powinien oznaczać rzeczywistą możliwość zakwestionowania wyniku, odmowy i zatrzymania operacji. Nadzór ma być elementem procesu operacyjnego, a nie formalnym kliknięciem.
Kiedy system ma zatrzymać działanie i eskalować sprawę
Warunki eskalacji należy zdefiniować przed uruchomieniem zadania. Trzeba wskazać, kiedy system nie powinien kontynuować, do kogo przekazuje sprawę, jakie informacje przekazuje wraz z nią i co dzieje się po odrzuceniu wyniku. Intensywność kontroli powinna odpowiadać ryzyku danej czynności.
Zwiększaj autonomię etapami i mierz skutki
Każdy kolejny poziom samodzielności powinien wynikać z testów, monitoringu i udokumentowanej oceny ryzyka. Wynik uzyskany w testach nie usuwa potrzeby obserwacji działania systemu po uruchomieniu.[6][10]
Od rekomendacji do ograniczonego działania samodzielnego
- Zacznij od rekomendacji. AI przygotowuje wynik, ale nie wykonuje operacji w systemie.
- Dodaj zatwierdzanie. System może przygotować działanie, lecz uruchamia je dopiero po decyzji uprawnionej osoby.
- Uruchom ograniczony pilotaż. Samodzielne wykonanie dotyczy wybranych, wcześniej ocenionych przypadków.
- Monitoruj wyjątki i interwencje. Obserwuj błędy, odchylenia, potrzebę korekt i incydenty.
- Zdecyduj o utrzymaniu, zawężeniu lub zwiększeniu uprawnień. Zmiana zakresu powinna wynikać z oceny działania systemu i zdolności organizacji do obsługi wyjątków.
Autonomię należy podnosić tylko wtedy, gdy testy pokazują akceptowalną jakość, a organizacja potrafi obsłużyć wyjątki i incydenty. Nie istnieje uniwersalny próg opłacalności ani jeden bezpieczny poziom autonomii dla wszystkich wdrożeń.[5][7]
Co monitorować po uruchomieniu
Monitoring powinien obejmować jakość rezultatów, błędy, odchylenia od ustalonych reguł, interwencje człowieka, eskalacje i incydenty. Organizacja powinna też zachować możliwość zawężenia albo cofnięcia uprawnień, jeśli działanie systemu przestaje odpowiadać przyjętym warunkom.
Uwzględnij ramy prawne bez automatycznych założeń
AI Act nie ustanawia jednego poziomu autonomii dla wszystkich narzędzi sprzedażowych. Obowiązki zależą od rzeczywistego zastosowania, klasyfikacji systemu oraz roli organizacji. Nie należy automatycznie uznawać każdego asystenta sprzedażowego za system wysokiego ryzyka.[8][9]
W odniesieniu do systemów wysokiego ryzyka środki nadzoru człowieka są powiązane z ryzykiem, poziomem autonomii i kontekstem wykorzystania. Ta zasada nie zastępuje jednak indywidualnej kwalifikacji prawnej konkretnego rozwiązania.
Dokumentacja powinna odzwierciedlać faktyczne działanie systemu: jego przeznaczenie, wykorzystywane dane, wykonywane operacje, zakres nadzoru i sposób obsługi incydentów. Dzięki temu ocena dotyczy rzeczywistych możliwości rozwiązania, a nie jego handlowej nazwy.
Źródła
- Zakres wiedzy asystenta, AI Architects.
- Asystent AI w Sales Center – sprawdź, co nowego potrafi!, Allegro.
- Asystenci AI w sprzedaży: podsumowanie webinaru, Livespace.
- Witamy w dziale Agent sprzedaży, Microsoft.
- AI Agents w sprzedaży B2B 2026: zastosowania i ROI, SFXM.
- AI RMF Core, National Institute of Standards and Technology.
- AI Risk Management and Human-AI Interaction, National Institute of Standards and Technology.
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, Unia Europejska.
- Artykuł 14: Nadzór ze strony człowieka, European Commission AI Act Service Desk.
- AI Risks and Trustworthiness, National Institute of Standards and Technology.
Autorem ebooka „Asystent AI w HubSpot” jest Przemek Gliński — HubSpot AI Platform Architect w BusinessWeb, który projektuje rozwiązania wykorzystujące sztuczną inteligencję w procesach sprzedażowych i obsługowych.
+Artykuł Sponsorowany+
