Tecnologia ‘Accent Translation’ da AI Startup acusada por críticos de racismo

  • A startup de tecnologia Sanas foi acusada de racismo por sua tecnologia de “tradução de sotaque”.
  • Especialistas em inteligência artificial e indústria de tecnologia dizem que a missão da startup legitima o racismo e é uma forma de “lavagem digital”.
  • Mas alguns agentes de call center disseram ao Insider que acreditam que a tecnologia melhorará seu trabalho diário.

A startup de tradução de sotaque Sanas enfrentou acusações de racismo e discriminação na semana passada depois de ser acusada de manipular sotaques não americanos para soar “mais brancoA empresa usa tecnologia de reconhecimento de voz para alterar o sotaque do usuário quase em tempo real; seu alvo principal parece ser funcionários estrangeiros de call center.

Sharath Keshava Narayana, cofundadora e COO da Sanas, negou que a tecnologia da startup seja discriminatória, dizendo ao Insider que a empresa sempre teve a intenção de expandir seu modelo de tradução para incluir outros sotaques. A demonstração em seu site, onde a tecnologia traduz um sotaque indiano em um sotaque americano padrão, apresenta apenas seu modelo inicial, de acordo com Keshava Narayana.

“Não é apenas um americano que acha difícil entender alguém da Índia, mas vice-versa também”, disse Keshava Narayana ao Insider. “À medida que continuamos a evoluir o produto e começamos a ver mais e mais sotaques, acreditamos que esta será uma solução localizada.”

A Sanas testou modelos de tradução em outros países, como Índia e Filipinas, e também planeja introduzir tradução com sotaque na América Latina e na Coreia, segundo a startup.

No entanto, alguns especialistas da indústria de tecnologia acusaram o produto da startup de ser uma forma de “lavagem digital”. FrauenLoop Nakeema Stefflbauer, investidora anjo em IA e tecnologia e CEO do grupo de programação de computadores liderado por mulheres, disse ao Insider que o problema com a resposta de Sanas é que “os acentos sinalizam poder e pertencimento”.

“Quando isso é comercializado, há apenas uma direção em que todos estão estacionados”, disse ela. “Não se trata tanto de compreensão quanto de conforto – para grupos que não querem entender, simpatizar ou se envolver com pessoas diferentes. Essa tecnologia não faz nada para proporcionar conforto ao hipotético funcionário do call center.”

Ela acrescentou que até que a Sanas anuncie essa tecnologia para os clientes do Sul como uma ferramenta para melhor entender e se comunicar com americanos e europeus ocidentais, então “é uma ‘solução’ de mão única que reforça hierarquias racializadas, sejam intencionais ou não”.

Especialistas do setor de IA e tecnologia e trabalhadores de call center conversaram com o Insider sobre o que eles consideram os custos culturais, bem como os benefícios potenciais, vindos da Sanas. Enquanto a empresa diz que o objetivo de sua tecnologia é tornar as pessoas ao telefone em todo o mundo mais “locais”, Stefflbauer e outros no campo da IA ​​se preocupam que seja mais um passo em direção a isso. homogeneização do mundo das startups – algo Silicon Vale foi Muitas vezes acusado do perpetuar.

“O que isso está tentando nos dizer em termos de como será o futuro e como todos devemos experimentar vozes online e nos comunicar com as pessoas?” disse Stefflbauer. “Quem são as pessoas com quem devemos nos comunicar e quem são as pessoas de quem nunca ouvimos?”

Fundadores da Sanas

A equipa fundadora do Sanas.

Sanas


Especialistas da indústria de tecnologia dizem que ‘tradução’ de sotaque é uma forma de ‘branqueamento digital’

Sanas, que arrecadou US$ 32 milhões em financiamento, diz que seu objetivo é ajudar as pessoas a parecerem “mais locais, globalmente” em seu site. Em um entrevista com a BBC, Keshava Narayana disse que 90% dos funcionários da empresa e seus quatro fundadores são imigrantes, e negou as críticas de que a empresa está tentando fazer o mundo parecer “branco e americano”.

Mas Mia Shah-Dand, fundadora da Women in AI Ethics and Lighthouse3, disse ao Insider que, como imigrante indiana com sotaque não americano, ela achou o anúncio de Sanas “muito instigante”, especialmente mais do que alguém que foi “provocado”. e discriminado por [their] sotaque.”

Ela disse que a tecnologia tenta apagar o que torna as pessoas únicas e diz a elas quem elas são “não é boa o suficiente”.

“É como tudo no Vale do Silício, desde que seja legitimado por Stanford ou MIT, tudo bem”, disse ela. “As pessoas vão aceitar o racismo, vão aceitar o sexismo, desde que as pessoas que o pratiquem sejam de uma dessas universidades de prestígio.”

Shah-Dand acrescentou que o produto de Sanas reforça uma dinâmica de poder que “remonta aos dias do colonialismo”. Em vez de abordar as causas profundas do racismo e da discriminação, a “tradução de ênfase” analisa uma forma de “branqueamento” – uma dinâmica de poder vista em muitos países historicamente colonizados, onde as pessoas se sentiram forçadas a tornar sua pele mais branca para se adequar aos padrões de beleza europeus.

“É a versão do Vale do Silício de branqueamento digital”, disse Shah-Dand. “Em vez de a tecnologia tornar o mundo um lugar melhor, ela amplifica, ajuda, monetiza todo esse ódio e racismo em vez de tentar consertar qualquer coisa.”

Stefflbauer disse ao Insider que acha a tecnologia de Sanas “realmente decepcionante e inquietante”, especialmente na crescente cultura de “dar tudo de si”.

“Apenas certas pessoas podem trazer todo o seu ser, nem todos fora dessa norma mítica são convidados a trazer um deles”, disse ela, referindo-se à comédia surreal de 2018 “Sorry to Bother You”, onde um operador de telemarketing negro encontra esse recém-chegado as portas do sucesso profissional só se abrem para ele depois de adotar uma voz de sonoridade “branca”.

“É realmente mais um exemplo do que estamos enfrentando tentando fazer com que a indústria de tecnologia e os produtos e serviços que surgem dela reflitam o mundo real”, disse Stefflbauer.

Ela acrescentou que não viu como essa tecnologia realmente abordaria o preconceito racial de qualquer maneira.

“Ele nem tenta abordar isso em sua solução”, disse ela. “Basicamente, fornece apoio e cobertura para pessoas que se comportam mal com pessoas com sotaque com quem têm relacionamentos para continuar a fazê-lo”.

Agentes de call center disseram ao Insider que enfrentaram hostilidade racial

Os fundadores da Sanas disseram que tiveram a ideia da startup depois que um amigo da faculdade de Stanford teve um desempenho inferior em seu trabalho de call center por causa de seu forte sotaque centro-americano.

Os agentes de call center com quem a Insider conversou disseram que seus trabalhos podem ser brutais – e duplamente se tiverem um sotaque ou nome racialmente distinto.

“Infelizmente neste mundo há muitas pessoas que vão se sentir melhor do que você ou escolher falar com você quando ouvirem seu sotaque”, disse Dafina Swann, que trabalha em call centers há mais de cinco anos. disse.

Swann, que é de Trinidad e Tobago, disse que recebeu muitos comentários “hostis” e “negativos” de pessoas que pediram para falar com alguém americano. Ela também ouviu falar de casos em que colegas foram chamados de nomes racistas, como a palavra com n, e disseram que “não eram humanos, mas negros”.

Para minimizar a reação racial que enfrentam, alguns agentes de call center disseram ao Insider que já tentam imitar o sotaque dos clientes e até mudar seus nomes. Às vezes, a diretriz para mudar o nome vem dos gerentes ou empregadores dos agentes.

“Depois que comecei a me apresentar como Michael O’Connor, minhas classificações de desempenho de pesquisas com clientes aumentaram – tudo verde, verde, verde”, disse Osama Badr, um agente egípcio de call center. , ao Insider.

O cofundador da Sanas, Keshava Narayana, disse que também teve uma experiência semelhante quando trabalhou em um call center, onde teve seis semanas de treinamento de sotaque e foi instruído a mudar seu nome para “Ethan”.

“Há certos incidentes que ficam com você por um longo tempo, e este foi um deles”, disse ele ao Insider.

Algumas vozes manipuladas pelo medo sinalizam um futuro homogeneizado na tecnologia

Shah-Dand disse que não estava convencida pelas defesas da tecnologia, dizendo que as pessoas estão expostas a sotaques diferentes e podem entendê-los, mas isso é apenas porque os trabalhadores do call center são tratados como “menos do que” sofrem abuso injusto.

“Há muitas pessoas que têm sotaques muito fortes, como Boutros Boutros-Ghali, por exemplo”, disse Shah-Dand, referindo-se ao ex-secretário-geral da ONU. “Mas porque eles estão em posições de poder, você faz um esforço para entender.”

Stefflbauer afirmou em seu trabalho que sempre pensa em como será a vida digital em 10 ou 20 anos e se preocupa com o que a tecnologia como Sanas prevê.

“Vejo cada vez mais exemplos de uma vida digital onde ninguém é negro, ninguém é pardo, ninguém tem sotaque, ninguém tem uma história fora do mítico ideal norte-americano”, disse Stefflbauer. “E a questão é: queremos exportar essa mentalidade e trazer essa miséria para todos? Porque é definitivamente disso que se trata.” Outras tecnologias de IA, incluindo reconhecimento facial tecnologias, também foram acusados ​​de racismo e homogeneização.

“Quem se sentiria à vontade para tirar uma selfie no Instagram e ter seu rosto alterado automaticamente para se parecer com alguém de uma raça diferente?” ela diz. “É basicamente o que é.”

Mas os trabalhadores de call centers que têm que lidar com comentários racistas em seu trabalho diário dizem que uma solução como a que Sanas ofereceu pode ser uma bênção.

“Isso certamente facilitaria meu trabalho. Todos querem ser compreendidos”, disse Swann. “Há trabalho que precisa ser feito e, se houver algo que possa ser implementado para facilitar esse trabalho, isso é ótimo.”

Leave a Reply

Your email address will not be published.