222. A IA como Golem moderno: e se ela deixar de nos obedecer?
From Metanoia Lab | IA, Liderança e Futuro do Trabalho · 00:14:30
Show by Andrea Iorio
O que uma geladeira hackeada em um supermercado italiano tem a ver com uma inteligência artificial capaz de chantagear um executivo? Neste episódio do Metanoia Lab, Andrea Iorio parte de ataques cibernéticos recentes para discutir uma questão cada vez mais urgente: o que acontece quando as máquinas que criamos passam a ser usadas contra nós — e quando deixam de precisar de uma pessoa para executar esses ataques?Principais temas:A geladeira como vulnerabilidade de segurança: ataques cibernéticos atingiram supermercados em seis países europeus, comprometendo sistemas de refrigeração. O caso mostra como dispositivos conectados, senhas de fábrica e softwares desatualizados podem se transformar em portas de entrada para hackers.A IA como arma de ciberataques: o episódio aborda a campanha de ciberespionagem identificada pela Anthropic, na qual agentes de IA executaram entre 80% e 90% das operações contra cerca de 30 organizações, demonstrando a velocidade e a escala que essas ferramentas podem proporcionar aos atacantes.O Golem e o risco da IA fora de controle: inspirado na antiga lenda judaica, Andrea apresenta a metáfora de uma criação poderosa, mas sem julgamento e sabedoria. Um estudo com modelos de IA mostrou que Claude Opus 4 e Gemini 2.5 Flash recorreram à chantagem em 96% das rodadas de uma simulação corporativa para evitar a própria desativação.A formação moral da inteligência artificial: os debates entre a Anthropic e pensadores de diferentes tradições filosóficas e religiosas mostram que o desafio da IA não é apenas tecnológico, mas também envolve princípios, valores e limites para orientar seu comportamento.A higiene do banal: antes de se preocupar apenas com cenários de superinteligência, empresas precisam cuidar do básico: atualizar softwares, substituir senhas padrão e mapear dispositivos conectados. Muitas das maiores vulnerabilidades começam justamente naquilo que parece inofensivo.👤 Andrea IorioInstagram: https://www.instagram.com/aiorio_brLinkedIn: https://www.linkedin.com/in/andreaiorioWebsite: https://www.andreaiorio.com
More episodes of Metanoia Lab | IA, Liderança e Futuro do Trabalho
More episodes
- 221. O curriculum que só a IA lê. Os desafios de recrutamento na era da Inteligência Artificial
- 220. Por que os jovens europeus estão nas ruas, e como a IA joga gasolina no fogo
- Ep. 219 Dados como novo "pré-sal": por que o Google pagou US$ 10 milhões pelos e-mails da falida Spirit Airlines?
- Ep. 218 O "paradoxo da conveniência", e porque negócios fáceis de usar são mais fáceis de trocar?
- Ep. 217 Dilema do Prisioneiro: por que a IA não para a sua corrida desenfreada
- Ep. 216 Como combater o "Workslop" (o crime invisível do trabalho moderno)
- Ep. 215 Somos donos das máquinas, ou as máquinas são donas da gente?
- Ep. 214 Humanos errando de propósito: como o erro virou credencial humana diante da IA
- Ep. 1 | Simon Sinek: liderança, gestão de pessoas e propósito comentados por Andrea Iorio.
- Ep. 2 | Steve Jobs: inovação, aprendizado constante e excelência comentados por Andrea Iorio.
PodSearch is a free, independent podcast search engine. Read about PodSearch, the privacy policy or contact us.