Algoritam vas sluša

Kada nazivate neku veliku tvrtku radi određenih informacija često prije javljanja sugovornika čujete rečenicu: „Da bismo provjerili i poboljšali kvalitetu naše usluge, željeli bismo snimiti ovaj razgovor." Ono što mnogi ne znaju: pojedini call centri koriste umjetnu inteligenciju (UI) za analizu emocija tijekom razgovora – na temelju glasa.

Jedan od najvećih svjetskih operatera call centara Teleperformance ima UI softver koji je, između ostalog, namijenjen prepoznavanju emocija pozivatelja i agenata call centra. Koliko brzo govore? Zvuče li uzbuđeno ili uznemireno? Prijete li kupci raskidom ugovora ili tužbama? UI bi trebao procijeniti sve to, pokazuju interni dokumenti tvrtke.

U Njemačkoj skoro 2.000 agenata radi za Teleperformance, također i za opskrbljivače energijom. Dokumenti pokazuju da korisnici Teleperformancea mogu koristiti softver za svoje telefonske linije na njemačkom jeziku. Nejasno je koliko razgovora tvrtka analizira na taj način. Na upit javnog servisa BR tvrtka nije htjela dati precizan odgovor.

Analiziranje emocija kupaca u realnom vremenu

No call centar 11880 otvoreno govori o upotrebi umjetne inteligencije za prepoznavanje emocija. Među njegovim klijentima su tvrtke koje se bave gradnjom stanova, stambena udruženja, autosaloni i iznajmljivači električnih skutera. Ovaj call centar za njih rješava žalbe kupaca.

UI analizira melodiju govora, intenzitet, ritam i zvuk u realnom vremenu. Ukupno više od 6.000 glasovnih parametara se analizira kako bi se izračunale emocije, kaže Jörn Hausmann, menadžer u firmi 11880. Softver je namijenjen prepoznavanju osjećaja kao što su bijes, ljutnja, ali i ljubaznost.

Hausmann naglašava da je UI softver za analizu emocija podrška agentima; njegovu upotrebu odobrava radničko vijeće i provjerava službenik za zaštitu podataka.

Za vrijeme razgovora agenti call centra vide smješka na svom ekranu koji ukazuje na raspoloženje sugovornika. Jedan smješko (smiley) pokazuje emocije pozivatelja, a drugi emocije agenta pozivnog centra. Time se želi postići da agenti ostanu ljubazni i da, u najboljem slučaju, kupci budu zadovoljniji. Ovaj pristup nije bez kontroverzi.

"Pravno problematično"

U priopćenju tvrtke se samo spominje evaluacija „radi ispitivanja i poboljšanja kvalitete usluga". Profesorica prava Lena Rudkowski sa Sveučilišta u Gießenu naziva snimljene poruke ovog tipa „pravno problematičnima" jer pozivatelji ne znaju kako će razgovor biti ocijenjen. Prepoznavanje emocija je nešto „što kupac ne mora očekivati".

Pozivatelji nisu informirani o emocijama koje procjenjuje UI, potvrđuje menadžer tvrtke 11880 Hausmann. Pristanak na procjenu nije potreban: „Ovdje se ništa ne čuva i iz toga se ne izvode profili kupaca“, kaže Hausmann. To znači: čak i ako se kupci protive snimanju, emocije se procjenjuju.

Wedde: prepoznavanje emocija je nedopustivo

Profesor prava Peter Wedde sa Sveučilišta u Frankfurtu smatra da je analiza emocija u call centrima pravno nedopustiva. Poslodavcima je dozvoljeno obrađivati samo one podatke svojih zaposlenika koji su apsolutno neophodni, kaže Wedde. Analiza emocija omogućava „dalekosežne uvide u osobnost". U najširem smislu, prema Weddeu, radi se o zdravstvenim podacima, čija obrada podliježe izuzetno strogim pravilima.

Za pravnu stručnjakinju Rudkowski je upitno može li stalna analiza u realnom vremenu, koju bi vođe timova mogli vidjeti, rezultirati potpunim praćenjem agenata call centra. Poslodavcima nije dozvoljeno praćenje zaposlenika „kontinuirano tijekom cijelog njihovog radnog vremena i vršenje znatnog psihološkog pritiska", naglašava Rudkowski.

UI na radnom mjestu - nema jasnih pravila

Skoro 160.000 ljudi radi u call centrima u Njemačkoj. Nejasno je koliko tih centara koristi umjetnu inteligenciju za analizu govora ili emocija. Stručnjaci iz industrije procjenjuju da se ta brojka kreće između 10 i 30 posto.

U Njemačkoj trenutno ne postoji zakonska regulativa umjetne inteligencije – uključujući i njezinu primjenu na radnom mjestu. Savezna vlada trenutno radi na novom zakonu o zaštiti podataka zaposlenih, koji će utjecati i na korištenje UI-a, odgovorilo je savezno Ministarstvo rada na pitanje novinara BR-a.

Član EP-a: prepoznavanje emocija je „pseudoznanstveno"

Na razini EU-a to bi trebalo biti regulirano Zakonom o umjetnoj inteligenciji. Europski parlament je u lipnju velikom većinom glasova usvojio svoj stav o nacrtu tog zakona. Parlamentarni stav predviđa da prepoznavanje emocija pomoću glasovne umjetne inteligencije treba zabraniti na radnom mjestu, u obrazovanju i kod kaznenog gonjenja.

Sergey Lagodinsky, zastupnik stranke Zeleni u Europskom parlamentu, naziva upotrebu umjetne inteligencije za prepoznavanje emocija „pseudoznanstvenom". U intervjuu za BR on kaže da „svaka osoba ima pravo na svoj unutarnji život i da ne dijeli svoje emocije”.

I europski povjerenik za zaštitu podataka Wojciech Wiewiórowski opisuje upotrebu umjetne inteligencije za prepoznavanje emocija kao „izuzetno nepoželjnu”. No kao izuzetak navodi zdravstvene i znanstvene svrhe.

Rasprava o zabrani prepoznavanja emocija

Pojedini zastupnici iz konzervativne Europske pučke stranke (EPP) odustaju od strogih zabrana u Zakonu o umjetnoj inteligenciji. Angelika Niebler (CSU) je izjavila za BR da je prepoznavanje emocija na radnom mjestu pitanje kod kojeg morate „pažljivo odmjeriti mogućnosti i rizike".

Europska komisija, Europsko vijeće i Europski parlament trenutno još pregovaraju o konačnoj verziji Zakona o umjetnoj inteligenciji. Očekuje se da će pregovori biti završeni do kraja ove godine.

Rebecca Ciesielski, Sammy Khamis i Simon Wörz, BR/ ss

Pratite nas i na Facebooku, preko X-a, na Youtubeu, kao i na Instagramu