A Inteligência Artificial passou a integrar os serviços de diversas empresas e em múltiplos seguimentos. Uma das discussões que você já deve ter tido ou ainda vai jogar na roda do bar, é sobre os excessos de ferramentas de IA e até que ponto o uso pode melhorar ou piorar a experiência.
Notícias e promoções imperdíveisDiretamente no seu WhatsAppNo caso do Mercado Livre, uma das maiores plataformas de e-commerce do mundo, o uso desenfreado de IA está provocando reclamações por parte de funcionários, como mostra uma das discussões em alta no Reddit.
Segundo um funcionário, dentro do Mercado Livre a IA tem poder de decisão em relação aos humanos capacitados até mesmo para atividades como atendimento ao cliente.
O Mercado Livre vem cada vez mais enfiando IA em tudo, em processo interno e externo e em 90% dos casos ela passa informação errada e quem se ferra é o atendente…
E não para por aí.. a reclamação que já conta com 471 votos de apoio, afirma que a IA é quem toma decisão, mas o funcionário é quem paga pelos erros dela. Esse é mais um paradoxo no uso desenfreado de IA. Quem tem a responsabilidade da informação que o algoritmo gera?
Nos modelos de Chatbot, fica evidente a informação de que você deve sempre checar as informações geradas durante as conversas, pois elas podem conter dados falsos, derivados de alucinação e mal aprendizado. Mas e quando uma grande plataforma de e-commerce integra a IA até mesmo para disputas de produtos com defeitos e outros problemas?
Esse é um dos questionamentos que estão em alta quando se trata de integração de recursos de IA em serviços que antes eram majoritariamente decisivos por humanos. Quando a IA toma a régua de decisão, a plataforma precisa assumir que pode errar e construir mecanismos de backup e revalidação.
Quando isso não acontece, a experiência é ruim para o lado do cliente e também para o lado do funcionário, que acaba pagando o pato por uma decisão mal calculada por um algoritmo estatístico (e que nem sempre é Inteligência Artificial de verdade).
Eu, como consumidor, ODIEI! Para fazer devolução de algum item era tão simples… 3 botõeszinhos fáceis e já resolvia. Agora, abre um chatbot bugadíssimo, com a IA alucinando toda hora fazendo 5 mil perguntas até resolver liberar a devolução. Eu odeio empresa que quer enfiar IA em tudo
Mercado Pago também virou oásis de IA
No serviço financeiro do Mercado Livre, a onda de IA também não demorou para assumir posições de importância.
A sessão de ajuda do aplicativo Mercado Pago está dotada de IA. Tudo é resolvido e triado pela IA, mesmo que o resultado seja não satisfatório.
Para que você consiga atendimento com humanos, a paciência e o tempo devem estar em dia.
Em nossos testes, a IA até se mostrou esperta e com contexto bem afiado, mas tivemos muita dificuldade para acionar o suporte real, e isso é muito ruim para a experiência de usuário.
A IA é interessante para triar e gerar contexto de atendimento, mas ela deveria parar por aí. É muito importante entender o limiar dessas ferramentas de IA.
No post do Reddit, há uma série de reclamações envolvendo diversas sessões das aplicações do Mercado Livre em relação ao uso desenfreado de IA. Mas uma coisa é certa: se os funcionários e os clientes estão descontentes, fica evidente que a plataforma pode ter perdido o freio ao dotar suas soluções com Inteligência Artificial.