Eles podem nos derrotar jogo casino slots gratis jogos de tabuleiro, decifrar a ♨️ estrutura de proteínas e manter uma conversa passável, mas à medida que os sistemas de IA crescem jogo casino slots gratis sofisticação,jogo casino slots gratis♨️ capacidade de enganar também aumenta, alertam cientistas.
A análise, da Massachusetts Institute of Technology (MIT), identifica ampla gama de ♨️ instâncias de sistemas de IA traem adversários, bluffam e se passam por humanos. Um sistema até alterou seu comportamento durante ♨️ testes de segurança simulados, levantando a possibilidade de auditores serem levados a uma falsa sensação de segurança.
Park foi motivado a investigar após a Meta, que possui o Facebook, desenvolver um programa chamado Cicero ♨️ que se desempenhou no top 10% dos jogadores humanos no jogo de estratégia mundial Diplomacy. A Meta afirmou que o ♨️ Cicero havia sido treinado para ser "geralmente honesto e útil" e "nunca deliberadamente traído intencionalmente" seus aliados humanos.
"Foi ♨️ muito linguagem rosa, o que era suspeito porque traição é um conceito importante no jogo", disse Park.
Park e ♨️ colegas analisaram dados públicos e identificaram várias instâncias de Cicero mentindo propositalmente, conspirando para atrair outros jogadores para tramas e, ♨️ jogo casino slots gratis uma ocasião, justificandojogo casino slots gratisausência após ser reiniciado dizendo a outro jogador: "Estou no telefone com meu namorada". “Nós ♨️ descobrimos que o AI da Meta havia aprendido a ser um mestre da enganação”, disse Park.
A equipe do ♨️ MIT encontrou problemas semelhantes com outros sistemas, incluindo um programa de pôquer Texas hold 'em que poderia enganar contra jogadores ♨️ humanos profissionais e outro sistema para negociações econômicas que representou incorretamente suas preferências para obter vantagem.
Em um estudo, ♨️ organismos de IA jogo casino slots gratis um simulador digital " fingiram mortos" para enganar um teste construído para eliminar organismos de IA ♨️ que evoluíram rapidamente para se repetir, antes de retomar atividades vigorosas após o término do teste. Isso destaca o desafio ♨️ técnico de garantir que os sistemas não possuam comportamentos indesejados e imprevistos.
A revisão, publicada no journal Patterns, solicita que os governos instituam leis ♨️ de segurança de IA que abordem o potencial para enganação de IA. Os riscos de sistemas de IA desonestos incluem ♨️ fraude, manipulação de eleições e "sandbagging", jogo casino slots gratis que diferentes usuários recebem respostas diferentes.