Wątpliwości etyczne dotyczące technologii chatbotów

Czy chatboty mają przyszłość?

Nowe platformy sztucznej inteligencji (AI) rozszyfrowały tak dobrze intencje klientów, że istnieją szanse iż przejmą także odpowiadanie na emaile.

W trakcie kursu raportowania na temat wykorzystania sztucznej inteligencji w zastosowaniach handlowych, odwiedziłam stronę internetową Conversica i poprosiłam o demonstrację na żywo ich technologii chatbota. Wypełniłam formularz online, a przyjazny asystent sprzedaży o nazwie Rachel Brooks kontynuował naszą rozmowę przez e-mail, aby podać mi więcej informacji. Kiedy nie odpowiadałam, uporczywy, jak to sprzedawca wysłał mi kolejny e-mail:

Temat: Rachel Brooks z Conversica

Cześć Bridget,

Chciałam dowiedzieć się czy dotarł do Ciebie mój email i zapytać czy masz jakieś pytania dotyczące oprogramowania sztucznej inteligencji na które mogłabym odpowiedzieć. Czy chciałabyś żebym do Ciebie oddzwoniła i udzieliła więcej informacji przez telefon?

Bardzo dziękuję,

Rachel Brooks | Asystent sprzedaży
Conversica

Powiedziałam Rachel że rozmawiałam z kierownikiem marketingu Garym Gerberem więc przestałyśmy korespondować i pozostałyśmy w swoich światach, ja w realnym, ona w wirtualnym.

“Jak się domyślasz, Rachel to mój automatyczny asystent” wyjaśnił Gerber. „Sprawia że mój zespół sprzedaży jest bardziej efektywny, zespół marketingu bardziej skuteczny, a co najważniejsze dba o dobrą obsługę klientów. Wszyscy wygrywają. Czego więcej można chcieć od automatyzacji?”

Czekaj, to nie był prawdziwy człowiek?

Chatboty jak „Rachel Brooks” są wprowadzane do pracy w coraz większej liczbie firm, które szukają sposobów by uwolnić pracowników obsługi klienta oraz marketingu i sprzedaży od podstawowej pracy a pozwolić im się skupić na bardziej skomplikowanych zadaniach. Wykorzystanie sztucznej inteligencji (AI) w tych i innych aplikacjach będzie się tylko zwiększać, Gartner przewiduje, że ponad 85% interakcji z klientami będzie zarządzane bez udziału człowieka do roku 2020.

Wzrost wykorzystania chatbotów do obsługi klienta ma sens, działają dobrze i są dostępne 24 h na dobę. Chociaż kiedy dowiedziałam się że rozmawiałam z robotem, poczułam się oszukana. I nie jestem w tym odosobniona.

Analityk branży technologicznej który podejrzewał że rozmawiał z robotem bo “szybkość odpowiedzi i język jakim się posługiwał sugerował nieludzką wydajność” zastanawiał się czy prawo nie powinno zmusić firmy do ujawniania informacji czy rozmawia się z czatbotem czy prawdziwą osobą.

To dobra uwaga, ale pomysł legislacji może sprawić zastój w niektórych branżach. David Vandegrift, przedsiębiorca który inwestuje w technologię AI założył i prowadzi grupę w Chicago „Praktycy i inwestorzy w sztuczną inteligencję” jest przeciwko pomysłowi legislacji bo wpłynęłoby to negatywnie na badania, szczególnie na badanie jak ludzie podchodzą i reagują na sztuczną inteligencję. Wskazał na kilka form AI, które od dawna są używane do obsługi klienta. Jeśli zadzwonisz do swojego banku albo dostawcy kablówki na pewno natkniesz się na system IVR (interactive voice response).

“Sam system IVR jest dla człowieka nienaturalny i denerwujący, ale nie ma wątpliwości że to jest maszyna” mówi Vandegrift. „Ale kiedy dojdziemy do punktu że obsługa przez AI będzie zupełnie naturalna i nie będzie odczuwalne że obsługuje nas robot to ludzie nie będą mieli nic przeciwko”.

Vandegrift wie że klienci mogą się czuć oszukani kiedy po raz pierwszy uświadomią sobie że mają do czynienia z chatbotem a nie człowiekiem. Ale po pierwszej reakcji odrzucenia, Vandegrift wierzy że uczucia pójdą na bok i klienci nawet będą preferować kontakt z chatbotem. Mimo wszystko kontakt z osobami może być bolesny i niemiły, dodaje.

Nie oszukuj klienta

Klienci oczekują pewnego poziomu zaufania, więc kiedy się dowiadują że firma używa robota do kontaktu z nimi, mogą czuć się zdradzeni i mogą nawet zrezygnować z usług tej firmy, mówi Vandegrift.

Zapytałem Pana Gerbera z firmy Conversica czy widzi etyczny problem z tym że klient może odnieść fałszywe wrażenie iż ma do czynienia z fizyczną osobą a nie robotem. ”Może jest tu problem etyczny, ale klienci otrzymują informacje których poszukują, a na końcu i tak rozmawiają z fizyczną osobą” mówi Gerber.

Dalej uzasadniając dodał że wirtualni asystenci czasami wykonują lepszą pracę niż faktyczni operatorzy. Jeden z klientów który nie otrzymał na czas telefonu od kierownika sprzedaży zasugerował że może wirtualny asystent powinien zostać kierownikiem. „Być może nadejdzie taki czas że klienci będą woleli rozmawiać z robotem bo otrzymają na czas informacje których poszukują” mówi Gerber.

Podobnym przykładem są bankomaty. Kiedy weszły na rynek wiele osób nie chciało z nich korzystać, woleli mieć do czynienia z kasjerem w banku. Obecnie bankomaty są normą i w odróżnieniu od kasjerów są dostępne dzień i noc.

Susan Zaney, była wiceprezes ds. marketingu w firmie KnowledgeVision, która dostarcza firmom platform do prezentacji online, polega na technologii chatbotów firmy Conversica do kontaktu z osobami zainteresowanymi ich usługami.  Ich wirtualny asystent, którego nazwali „Caitlyn Kelly” używa w kontaktach z klientami tak naturalnego języka że wielu klientów przeprasza Caitlyn że nie oddzwonili do niej od razu, mówi Zaney. „Stworzyliśmy nawet linię telefoniczną i pocztę głosową dla Caitlyn bo tak wielu klientów o nią pytało. Ktoś nawet zasugerował żebyśmy stworzyli jej profil na Linkdin – ale to już byłoby przekroczenie pewnej linii” mówi Zaney. Na wiadomości zostawione dla Caitlyn odpowiadają fizyczni przedstawiciele handlowi, dodaje.

Awatary w 3D

Podczas gdy wiele firm podąża podobną drogą – nazywając swoje chatboty i przedstawiają je jako fizycznych operatorów obsługi klienta – inne firmy pokazują chatboty jako cyfrowe awatary, wtedy jest to oczywiste że nie jest to fizyczna osoba, wyjaśnia Jordi Torras, założyciel i prezes firmy Inbenta, która wykorzystuje NLP (przetwarzanie języka naturalnego) – oprogramowanie pozwalające AI na wyszukiwanie i do chatbotów. „Mamy świetne awatary 3D i niektórzy nasi klienci nawet je nazwali, chociaż wyglądają na osoby cyfrowe i nie starają sie udawać ludzi” mówi Torras. Dodaje też że chatboty powinny się identyfikować gdy są zapytane i nie powinny udawać prawdziwych osób.

Żeby być uczciwym, firmy nie próbują używać chatbotów aby oszukać klientów lub nawiązać osobiste relacje które mogą nawiązać tylko fizyczni ludzie z marketingu lub sprzedaży. Rolą chatbota jest zachowywać się jak pośrednik, może udzielić informacji lub pokierować klienta do konkretnej osoby, mówi Zaney.

Z czasem, kiedy komunikacja z czatbotami stanie się normą, klienci przestaną przypuszczać że rozmawiają z ludźmi i nauczą się podchodzić z dystansem, bez emocji do komunikacji z platformami stworzonymi przez komputer, mówi Torras z firmy Inbenta.

Nie jest powiedziane że chatboty staną się jedyną metodą do komunikacji ze wszystkimi klientami. Nawet Inbenta nadal polega na prawdziwych reprezentantach handlowych do kontaktów w sprawach handlowych.

Jak powiedział jeden z kierowników działu rozwoju „chatboty są przydatne, ale niektóre rzeczy nadal wymagają ludzkiej ręki”.

Czy podoba Ci się pomysł kontaktu z chatbotami czy też nie, to i tak są zdecydowanie lepsze od denerwującego systemu IVR z którym najczęściej mieliśmy ostatnio do czynienia. Inbenta twierdzi że ich technologia NLP rozwiązuje 90-97% zapytań klientów. Kiedy technologia nie potrafi odpowiedzieć na jakieś pytanie, system automatycznie przełącza klienta do operatora, mówi Torras.

A technologia będzie się tylko polepszać w najbliższych latach. „Rozmowy z chatbotami staną się bardziej naturalne i będą one w stanie rozwiązywać problemy na poziomie ponadprzeciętnym – lepiej niż ludzie” przewiduje Torras.

Gartner natomiast przewiduje że wszystkie aplikacje firmowe będą wykorzystywały AI do 2020 roku a także technologie zawierające funkcje przetwarzające język naturalny, sieci neuronowe czy możliwości konwersacji. Więc jest bardzo prawdopodobne że w ciągu kilku najbliższych lat otrzymasz email od asystenta sprzedaży, który nie będzie fizyczną osobą. Prawnie nie jest to problem, a etycznie? Sam zadecyduj.

Źródło: http://searchcrm.techtarget.com