A Apple está enfrentando pedidos para remover seu recurso de resumos de notificação com tecnologia de IA depois que gerou manchetes falsas sobre um caso de assassinato de alto perfil, atraindo críticas de uma grande organização jornalística.
Atualizado para iOS 18.2? Então você pode ter recebido esta notificação (crédito da imagem: BBC Information)
A Repórteres Sem Fronteiras (RSF) instou a Apple a desativar o recurso de notificação Apple Intelligence, lançado globalmente na semana passada como parte de sua atualização de software program iOS 18.2. O pedido surge depois que o recurso criou uma manchete enganosa sugerindo que o suspeito de assassinato Luigi Mangione havia se matado com um tiro, atribuindo incorretamente as informações falsas à BBC News.
Na verdade, Mangione permanece sob segurança máxima na Instituição Correcional Estadual de Huntingdon, no condado de Huntingdon, Pensilvânia, depois de ter sido acusado de assassinato em primeiro grau no assassinato do CEO do seguro de saúde, Brian Thompson, em Nova York.
A BBC confirmou que apresentou uma reclamação à Apple sobre o incidente da manchete. Desde então, a RSF argumentou que resumos desse tipo provam que “os serviços generativos de IA ainda são muito imaturos para produzir informações confiáveis para o público”.
Vincent Berthier, chefe do departamento de tecnologia e jornalismo da RSF, disse que “As IAs são máquinas de probabilidade e os fatos não podem ser decididos por meio de um lançamento de dados”. Ele chamou a produção automatizada de informações falsas de “um perigo para o direito do público à informação confiável”.
Este também não é um incidente isolado. O jornal New York Occasions supostamente teve um problema semelhante quando a Apple Intelligence resumiu incorretamente um artigo sobre o primeiro-ministro israelense Benjamin Netanyahu, criando uma notificação alegando que ele havia sido preso quando o artigo authentic discutia um mandado de prisão do Tribunal Penal Internacional.
O recurso de IA da Apple visa reduzir a sobrecarga de notificações condensando alertas em breves resumos e está atualmente disponível nos modelos iPhone 15 Professional, iPhone 16 e iPads e Macs selecionados executando as versões mais recentes do sistema operacional. O recurso de resumo está habilitado por padrão, mas os usuários podem desativá-lo manualmente nas configurações do dispositivo.
A Apple ainda não comentou a polêmica nem indicou se pretende modificar ou remover o recurso.
(Através Notícias da BBC.)
