About this episode
No episódio 129 do Pod&Dev, falamos sobre um dos maiores desafios da adoção de inteligência artificial: como proteger aplicações, dados e ideias em um cenário onde ataques também podem acontecer por meio de linguagem natural.
Neste papo, mergulhamos no Prompt Injection, nas vulnerabilidades de aplicações que utilizam IA e nos cuidados necessários para que o ganho de produtividade não venha acompanhado de uma nova onda de riscos de segurança.
Entre os principais tópicos do episódio:
• O que é Prompt Injection e como atacantes podem manipular uma IA usando apenas linguagem natural
• Por que uma IA não sabe, por conta própria, o que é confidencial, seguro ou permitido
• Como prompts mal estruturados podem gerar ambiguidades e abrir espaço para vulnerabilidades
• Por que o excesso de permissões para agentes, plugins e ferramentas aumenta a superfície de ataque
• Como monitorar conversas entre usuários e IA usando agentes especializados e análise estática
• A diferença entre testar vulnerabilidades do modelo e testar a segurança da aplicação que utiliza esse modelo
• Como técnicas de exploração conseguem contornar guard rails ao alterar a forma como uma instrução é escrita
• A importância de revisar constantemente prompts, testar aplicações e nunca confiar cegamente nas entradas do usuário
• Como proteger o próprio código, conteúdo e ideias ao utilizar ferramentas de inteligência artificial
• Por que segurança precisa fazer parte da implementação da IA desde o início, e não ser tratada como uma etapa posterior
Se você trabalha com tecnologia, desenvolvimento ou inteligência artificial, este episódio traz um alerta importante: quanto maior a autonomia da IA, maior também precisa ser o cuidado com aquilo que ela pode acessar, interpretar e executar.
Connecte-se com os bastidores desse episódio.
Jess
Zé Albano
Douglas
___________________________________________
Assine nossa newsletter e fique por dentro dos eventos da nossa comunidade.
SE INSCREVA NA HOT HACKERS
___________________________________________
Quer ficar por dentro de todas as novidades da Hotmart?
Siga-nos nas redes sociais e visite nosso site:
LinkedIn
Instagram
Site
Get every episode summarized
Each time Pod & Dev publishes, we email you a written briefing from the transcript — the topics, who appeared, and any specific claims, with the ad reads skipped.
Email me new episodesFree for 3 shows. No card needed.
Hosts & guests
No transcript yet
This episode has not been transcribed. Request it and it moves to the front of the queue.
More episodes
