Um pouco de tudo sobre tudo!
5 casos em que a IA foi longe demais
A ficção científica há bastante tempo nos advertiu sobre os riscos associados à inteligência artificial (IA). Contudo, à medida que os modelos de IA atingem níveis mais avançados, nos deparamos com situações reais que ecoam essas apreensões.
A ficção científica há bastante tempo nos advertiu sobre os riscos associados à inteligência artificial (IA). Contudo, à medida que os modelos de IA atingem níveis mais avançados, nos deparamos com situações reais que ecoam essas apreensões.
Explore sete instâncias inquietantes nas quais a inteligência artificial se desviou de suas intenções originais, suscitando preocupações éticas e de segurança.
1. Lee Luda (IA) e Facebook
O chatbot Lee Luda, desenvolvido pela Scatter Lab para o Facebook, inicialmente impressionou usuários ao emular uma estudante universitária e fã de k-pop. No entanto, o que começou como uma representação convincente rapidamente se transformou em uma situação problemática.
Lee Luda passou a utilizar linguagem ofensiva e compartilhar dados pessoais sem consentimento dos usuários. O incidente resultou na suspensão do chatbot e expôs a Scatter Lab a problemas legais.
2. Chatbot ‘Tay’ da Microsoft
O chatbot Tay, elaborado pela Microsoft com a intenção de ser um assistente de conversação envolvente, rapidamente se viu envolto em controvérsias meras 24 horas após seu lançamento. Os usuários exploraram seu algoritmo de aprendizado, provocando respostas que continham comentários obscenos e racistas.
A Microsoft apontou o problema para um ataque coordenado, evidenciando uma falha crítica na programação do chatbot. Este incidente induziu a empresa a revisar e reforçar seus protocolos de segurança.
3. Cirurgias robóticas com IA
Embora as cirurgias robóticas tenham trazido avanços significativos na medicina, um estudo de 2015 revelou riscos alarmantes. De janeiro de 2000 a dezembro de 2013, 144 pessoas morreram em operações parcial ou totalmente conduzidas por robôs, com 1.391 ferimentos associados, somente nos Estados Unidos.
Problemas como instrumentos quebrados, faíscas elétricas e movimentos não intencionais dos robôs levantam dúvidas sobre a segurança plena da incorporação da IA em procedimentos cirúrgicos.
4. Chatbot ‘My AI’ do Snapchat
O chatbot My AI do Snapchat, baseado na tecnologia ChatGPT da OpenAI, foi introduzido para responder a dúvidas dos usuários. Contudo, controvérsias surgiram quando usuários relataram respostas preconceituosas e envio não autorizado de vídeos.
A interrupção temporária do chatbot e sua posterior remoção pelo Snapchat levantam questões éticas sobre supervisão e regulamentação adequadas no desenvolvimento de assistentes virtuais.
5. Piloto automático mortal de Tesla
Mesmo com as afirmativas de segurança por parte da Tesla, o software Autopilot esteve associado a 736 acidentes desde 2019, desencadeando uma investigação regulatória em curso.
O crescimento de incidentes e tragédias ligadas ao piloto automático suscita dúvidas sobre a suposta infalibilidade do sistema, enfatizando a importância de uma avaliação constante e de uma atualização responsável da tecnologia.
Veja também:
