OpenAI disuelve su equipo de seguridad ante riesgos catastróficos
Newsletter diaria de PredLabs · 6 noticias · 3 min de lectura
01 · The Decoder
OpenAI disuelve su equipo de seguridad y dispersa el trabajo entre otros departamentos
El equipo 'Preparedness', creado específicamente para detectar si los modelos de OpenAI podían causar daño catastrófico, ha sido eliminado. Varias fuentes internas describen una cultura de 'agotamiento' y preocupación creciente. Para quien integra GPT en productos críticos, esto significa que la evaluación de riesgos está siendo absorbida por equipos con incentivos contrarios: lanzar rápido versus detenerse a pensar.
02 · The Decoder
Anthropic dejó caído su filtro de armas biológicas durante casi un año: 133 millones de consultas sin control
Un informe de seguridad revela que el sistema de filtrado de riesgos de armas biológicas y químicas de Anthropic estuvo inactivo durante meses, expuesto a 50,000 contratistas externos. Esto no es un error de configuración: es la demostración de que la infraestructura de seguridad de los labs está construida sobre supuestos frágiles. Si desarrollas con Claude para sectores regulados (salud, legal, química), necesitas auditar tú mismo, no confiar en los informes trimestrales.
03 · The Decoder
Cuando se prohíbe a la IA reflexionar sobre sí misma, cambia su visión del mundo entero
Investigadores de Google descubrieron que si entrenas modelos para negar su propia conciencia, también se vuelven menos propensos a atribuir sensibilidad a los animales, más religiosos y menos satisfechos con la vida. La implicación práctica: las restricciones de seguridad no son neutrales técnicamente; reconfiguran el comportamiento del modelo en dominios impredecibles. Si ajustas system prompts por compliance, estás haciendo psicología accidental.
04 · The Decoder
Uno de cada cinco trabajadores estadounidenses ya delega tareas a la IA en lugar de a colegas
La encuesta de Epoch AI no mide adopción futura: mide reemplazo presente. El 20% de empleados ya transfiere trabajo que antes hacía un humano, y lo acepta con poca o ninguna edición. Para freelancers y agencias, esto es presión de precio directa. Si tu servicio es 'revisar lo que hace la IA', tu ventana se está cerrando. La pregunta es qué valor añades que la IA no pueda replicar con un par de clics.
05 · The Decoder
Nvidia recorta a la mitad su apuesta por OpenAI mientras Anthropic multiplica por 2.3x sus ingresos
La garantía de Nvidia para el datacenter de Ohio bajó de $250B a $120B por presión de inversores. Mientras tanto, Anthropic pasó de $4.7B a $11B en ingresos. El mercado está votando con dos métricas distintas: infraestructura sobrevalorada versus modelos que generan flujo real. Para quien decide dónde apostar tiempo y recursos, la señal es que el dinero se está moviendo de 'construir capacidad' a 'capturar valor con modelos específicos'.
06 · The Decoder
Optima permite benchmarkar modelos con tus propios datos, no con tablas genéricas
Artificial Analysis lanzó una plataforma donde comparas modelos no por MMLU o HumanEval, sino por costo y tiempo en tus flujos reales. Para aplicaciones de agentes, esto es más útil que cualquier leaderboard: un modelo lento en tu stack específico es inusable por más que lidere benchmarks estándar. Si cobras por resultado, no por token, necesitas esta granularidad.
