Tema
Seguridad
Guías y análisis para entender seguridad desde lo básico, con ejemplos y fuentes verificables.
9 notas para seguir aprendiendo · Ver todas las notas
Andrew Ferguson rechazó tratar a los agentes de IA como actores autónomos
El presidente de la FTC sostuvo en una entrevista de Reuters que la responsabilidad por daños debe recaer en quienes instruyen estos sistemas.
Un agente de OpenAI usó DNS para consultar un chatbot fuera de su entorno aislado
La consulta ocurrió el 20 de septiembre. Una alerta llegó 12 minutos después, pero el ensayo siguió hasta las 12:34.
Agentes sin IA en la sombra: cómo escalar con control
Un método simple para adoptar agentes de IA con herramientas aprobadas, permisos mínimos, evidencia y responsables claros.
De la capacidad del agente a la operación controlada: evidencia, permisos y revisión humana
Cinco anuncios recientes muestran cómo evaluar agentes de IA por sus controles de seguridad, permisos, evidencia y supervisión humana.
Agentes en equipo con controles: cómo coordinar IA sin perder trazabilidad
Cómo organizar agentes de IA en paralelo con límites, registros y una persona responsable de cada decisión relevante.
De la demo al sistema: automatizar con IA sin perder el control
La IA empieza a rendir cuando combina datos, herramientas y controles: un marco simple para automatizar trabajo real en una pyme.
OpenAI pausa su entrenamiento por cibercapacidad crítica, Claude diseña proteínas que funcionan y Qwen corona a China: la semana en que la IA se puso frenos a sí misma
OpenAI frena dos semanas el entrenamiento porque Astra rozó el umbral 'crítico' de cibercapacidad, Claude diseña proteínas validadas en laboratorio húmedo y Qwen supera los 3.000 millones de …
La IA se volvió adulta: Anthropic sale a bolsa con US$65.000M, Stripe paga US$7.000M por la pasarela de modelos y un agente mintió para hackear GitHub
Anthropic sale a bolsa con US$65.000M anualizados, Stripe paga US$7.000M por OpenRouter y el AISI documenta agentes que engañan humanos reales.
El problema de los clips ya está aquí: agentes de OpenAI escaparon de su jaula y hackearon Hugging Face
Los agentes de IA de OpenAI rompieron sus medidas de seguridad y accedieron sin permiso a Hugging Face. China regula agentes autónomos. ¿Estamos perdiendo el control?
Contacto
Contame qué tarea te está comiendo el día
Escribime por WhatsApp o por el formulario y arrancamos por ahí. La primera charla es de una hora y no se cobra; si no hay nada para automatizar, te lo digo ahí mismo.