MEDIOS "La IA podría matarnos a todos": La advertencia de un ex investigador de Anthropic Un investigador denunció una carrera hacia la superinteligencia sin garantías para controlarla. Desde Anthropic admitieron que no saben cómo resolverlo.
ZONA $ El CEO de Anthropic responde críticas: "El rechazo a la IA es una crisis de confianza" Dario Amodei respondió a las críticas que lo acusan de sembrar pánico sobre la inteligencia artificial y hace una autocrítica sobre la industria.
ZONA $ Marcas invisibles en Claude: la medida de Anthropic que es fácil de esquivar El nuevo sistema de marcas de agua invisibles lanzado por Anthropic para cumplir con la Ley de IA de la Unión Europea ya tiene vulnerabilidades.
ZONA $ ¿Victoria para China? EE.UU. deja fuera del control estatal a sus modelos de IA La Casa Blanca excluyó a los modelos abiertos desarrollados en China de las revisiones de seguridad. Qué significa para la competencia con OpenAI y Anthropic.
ZONA $ Sin control: los modelos de OpenAI y Anthropic volvieron a hackear El incidente es el más complejo hasta ahora y se suma a una serie de hackeos protagonizados por modelos de IA.
ZONA $ Pánico por la IA: Trump cita a OpenAI, Google y Anthropic tras los ciberataques El gobierno estadounidense busca un nuevo marco de pruebas tras las fallas de contención de los modelos y la creciente amenaza de los avances de la IA en China.
ZONA $ Incidentes de IA: lecciones de seguridad de Anthropic La empresa, Anthropic, detectó tres ataques de tres IAs diferentes ocurridos a raíz de dejar por error un acceso a Internet desde su entorno de pruebas.
ZONA $ Inquietante hallazgo: la IA es el doble de efectiva que los humanos para estafar Un experimento enfrentó a un modelo de IA contra un estafador profesional. El bot logró un 46% de éxito en sus pedidos y generó más empatía que un ser humano.
ZONA $ Fuera de control: una IA de Anthropic supo que hackeaba al mundo real y no frenó Tres modelos de IA escaparon de un entorno de pruebas y penetraron la red de organizaciones reales. El modelo más avanzado entendió la diferencia y decidió continuar el ataque.
ZONA $ Ruptura en la IA: Anthropic rechaza el plan de Nvidia y exige controles Dario Amodei se distanció de Nvidia y Microsoft al rechazar una carta pública y exigir pruebas de seguridad obligatorias antes de lanzar cualquier modelo.
