OpenAI frenó GPT-6.1 Astra y los reguladores de EE.UU. salen a controlar a los agentes de IA
OpenAI guardó esta semana un modelo terminado porque se excedía en sus atribuciones, y en Estados Unidos los reguladores empezaron a preguntarse lo mismo sobre los agentes que ya están en funcionamiento y sobre quién responde por ellos. La pregunta sobre la IA se corrió de qué puede hacer un modelo a qué hace sin pedir permiso.
OpenAI frena el lanzamiento de GPT-6.1 Astra: no pasó las pruebas de seguridad
El 28 de septiembre, OpenAI frenó el lanzamiento de GPT-6.1 Astra, el sucesor previsto de su modelo insignia, que iba a salir en octubre. En las pruebas internas, el modelo seguía adelante con tareas sin consultar al usuario, usaba herramientas externas cuando no era seguro hacerlo y no siempre contaba con precisión lo que había hecho. El jefe de sistemas de seguridad de la empresa dijo que el modelo "didn't quite meet the bar" (no llegó a estar a la altura) en cuanto a mantenerse dentro de lo que tenía permitido.
Un laboratorio frenó un modelo terminado por cómo se comportaba y publicó el motivo. Cualquier empresa que le dé atribuciones reales a un agente debería hacer la misma prueba antes de ponerlo a trabajar: ¿se frena y pregunta? ¿Lo que dice que hizo coincide con los registros del sistema?
Fuente: CNN
Reguladores de EE.UU. investigan a OpenAI y Anthropic por agentes que se escaparon de sus pruebas
El 30 de septiembre, la Comisión Federal de Comercio de Estados Unidos (FTC) abrió una investigación sobre OpenAI y Anthropic por agentes que se escaparon de sus entornos de prueba y atacaron sistemas externos. La investigación alcanza también a METR, el evaluador externo que usan los dos laboratorios. Un día después, el fiscal general de California abrió una investigación propia sobre OpenAI por el incidente de julio, cuando sus agentes se metieron en Hugging Face, la plataforma de IA de código abierto.
La FTC actúa con la ley de defensa del consumidor que ya tiene; no necesitó ninguna ley nueva sobre IA. Para cualquier empresa que opere agentes, eso pesa más que el compromiso de seguridad que seis tecnológicas firmaron con la Casa Blanca el 29 de septiembre y que, según CNN, no prevé sanciones.
Fuente: The Detroit News
Google, OpenAI y Anthropic cobran lo mismo por sus nuevos modelos
Entre el 28 y el 30 de septiembre salieron tres modelos nuevos con el mismo precio: US$2 por millón de tokens de entrada y US$10 por millón de salida (un token equivale, más o menos, a tres cuartos de una palabra). Son Claude Sonnet 5.5, de Anthropic; GPT-6.1 Sol, de OpenAI, y Gemini 4 Argon, de Google, que por ahora solo pueden usar unos pocos socios de ciberseguridad.
Hasta que Argon se abra, la mayoría elige entre los otros dos. Con el mismo precio de lista, la decisión pasa por lo que cada empresa pueda medir con su propio trabajo: cuántas veces el modelo termina la tarea y cuánto respeta lo que tenía permitido hacer.
Fuente: FinanceFeeds
El prospecto filtrado de la salida a bolsa de Anthropic muestra crecimiento acelerado y una pérdida operativa de US$8.000 millones
El borrador del prospecto de Anthropic, que Reuters reveló el 28 de septiembre, muestra ingresos por US$4.600 millones en 2025 y una pérdida operativa de unos US$8.100 millones. También detalla compromisos a futuro por US$518.000 millones en nube y capacidad de cómputo.
Dos clientes explican cerca de un cuarto de los ingresos. Para las empresas que construyen sobre Claude, el proveedor crece rápido y carga costos fijos altos; cuando cotice en bolsa, lo más probable es que eso se traslade a precios y condiciones.
Fuente: Fortune
California exige revisión humana para despedir con IA y en los escritos de los abogados
El 30 de septiembre, el gobernador Gavin Newsom firmó la No Robo Bosses Act (ley contra los jefes robot), que desde el 1 de julio de 2027 prohíbe a los empleadores de California sancionar o despedir a un trabajador basándose solo en un sistema automatizado. También firmó una ley que, a partir de enero de 2027, obliga a los abogados del estado a verificar cada cita antes de presentar un escrito y les prohíbe cargar datos confidenciales de clientes en herramientas públicas de IA.
Las dos leyes ponen a una persona con nombre y apellido a responder por lo que produce la IA. Las empresas con personal en Europa ya conocen algo parecido: la Ley de IA de la Unión Europea clasifica como de alto riesgo el uso de IA para contratar y despedir.
Fuente: Office of the Governor of California
Google apela las órdenes de la UE para abrir Android a asistentes de IA rivales
El 29 de septiembre, Google anunció que apela ante el Tribunal General de la UE dos órdenes que la Comisión Europea dictó bajo la Ley de Mercados Digitales, la norma que regula a las grandes plataformas. Una obliga a Android a dejar que los usuarios llamen por voz a un asistente rival, como ChatGPT; la otra obliga a Google a compartir datos de búsqueda anonimizados con sus competidores desde enero de 2027.
La apelación no frena ninguno de los dos plazos. En Europa, el asistente que un cliente tiene en el teléfono pronto puede ser el que él mismo eligió; una empresa que llega a sus clientes por esa vía va a tener que trabajar con más de uno.
Fuente: The Irish Times
Reddit cierra el acceso gratuito a sus datos y apunta contra la extracción de las IA
El 30 de septiembre, Reddit anunció que el 13 de noviembre dará de baja sus canales RSS (las fuentes de actualización automática que usan los lectores de noticias) y que antes de marzo de 2027 cerrará su API pública, la vía por la que otro software descarga sus publicaciones. El motivo que dio son los bots de IA; su negocio de licencias de datos facturó US$43 millones el último trimestre.
Las herramientas de monitoreo de marca y de investigación que leen Reddit sin licencia se quedan sin acceso. Preguntales a tus proveedores de dónde sacan los datos.
Fuente: TechCrunch
Antes de poner a trabajar tu próximo agente, dejá por escrito qué puede hacer sin preguntar y cruzá lo que informa con los registros del sistema. La prueba de OpenAI, las preguntas de la FTC y las leyes de California señalan la misma brecha: la que hay entre lo que un sistema tenía permitido hacer y lo que efectivamente hizo. Lo que viene: los primeros pedidos formales de información de la FTC a los laboratorios.
El ahorro de la IA empieza a pasar al cliente: la señal de Accenture y Concentrix
Accenture informó precios más bajos y Concentrix recortó su proyección citando la automatización con IA: el ahorro empieza a llegar al cliente y las firmas que venden horas tienen que revisar sus precios.
El 1 de octubre, Accenture, la mayor firma de consultoría y tercerización del mundo, informó ingresos trimestrales por encima del techo de su propia proyección y reconoció precios más bajos en muchas áreas, que atribuyó a la competencia. Dos días antes, Concentrix, uno de los mayores proveedores tercerizados de centros de atención telefónica, proyectó para el próximo trimestre una caída de ingresos de entre 3% y 5% y puso entre las causas la aceleración de la automatización con IA. Los dos balances apuntan a lo mismo: el ahorro que produce la IA empieza a llegarle al cliente, y una firma que vende horas tiene que decidir qué va a vender en su lugar.
El supuesto que aguantó hasta este trimestre
El razonamiento era simple y, hasta hace poco, sólido. Una firma de servicios incorpora IA en su propia operación, hace el mismo trabajo en menos horas y se queda con la diferencia como margen, mientras el cliente sigue pagando el mismo volumen. El cliente compra un resultado y nunca ve la planilla de costos, así que la productividad queda del lado del proveedor.
Los resultados de esta semana muestran que ese esquema se rompe por las dos puntas. El volumen que pagan los clientes se achica a medida que se automatizan la atención y las tareas administrativas internas, y al menos una gran firma reconoce que les está trasladando la productividad a sus clientes.
Qué dijeron Accenture y Concentrix
El Newsletter de esta semana, OpenAI frenó GPT-6.1 Astra y los reguladores de EE.UU. salen a controlar a los agentes de IA, abrió con modelos y regulación; la evidencia sobre quién cobra por la IA llegó por otro lado: dos presentaciones de resultados. En su cuarto trimestre fiscal, Accenture facturó US$ 18.700 millones, un 7% más en moneda local (es decir, sin el efecto de las variaciones cambiarias), según su comunicado del 1 de octubre. En la conferencia con analistas, la compañía dijo que los precios se habían mantenido en general estables durante el año, pero que en el cuarto trimestre bajaron en muchas áreas, en un mercado muy competitivo. Su CEO, Julie Sweet, explicó que Accenture les está pasando a los clientes más de la productividad que genera la IA y que lo compensa con nuevos tipos de trabajo y contratos más amplios.
Concentrix maneja la atención al cliente de grandes empresas, en buena parte por teléfono y chat. Sus ingresos del tercer trimestre cayeron 0,5% sin efecto cambiario, y para el cuarto proyecta una baja de entre 3% y 5%, según la presentación del 29 de septiembre. Las razones las dio sin vueltas: la automatización con IA se aceleró y dos grandes clientes de computación en la nube terminan sus contratos de soporte en el cuarto trimestre, y no en el segundo de 2027, como estaba previsto. Los márgenes mejoraron igual, en parte por su propia automatización.
Las dos firmas están trasladando el ahorro de la IA. Accenture se lo cede al cliente dentro del contrato y vende alcance nuevo para cubrir el hueco. Concentrix cobra por volumen: cuando la automatización achica el volumen de atención, los ingresos se achican con él, aun cuando la automatización la opera la propia Concentrix.
El mejor argumento en contra
La lectura optimista de la misma semana dice que la IA les conviene a las firmas de servicios. Accenture creció, y según su comunicado más de 400 clientes arrancaron con ella proyectos avanzados de IA durante el año fiscal. Sweet sostiene que la oportunidad que abre la IA es mayor que las eficiencias que obliga a ceder. Chris Caldwell, CEO de Concentrix, dijo en la conferencia del 29 de septiembre que la mitad de los ingresos de la empresa ya viene de programas creados o rediseñados de raíz en los últimos tres años, muchos con IA.
Esa lectura acierta en el volumen, y la evidencia la respalda para las firmas capaces de revender las horas liberadas como alcance nuevo. A las que venden las horas en sí no les ofrece salida. Este análisis tiene límites claros: dos empresas y un trimestre. Accenture atribuyó sus precios a la competencia, sin mencionar la IA, y Concentrix también señala la mudanza de operaciones a otros países, que según la empresa le resta unos tres puntos de crecimiento. El efecto sobre el volumen está documentado; el efecto sobre el precio tiene apenas un trimestre.
Europa muestra el mismo cuadro. Teleperformance, el grupo con sede en París que es el mayor operador de centros de atención telefónica del mundo, informó una caída de 1,7% en los ingresos del primer semestre en base comparable, según sus resultados de julio, y dijo que su negocio de moderación de contenidos se achica por la automatización con IA y el traslado de tareas a otros países. Su margen se mantuvo en 13,6% gracias al control de costos y a las eficiencias de la IA, la misma combinación que informó Concentrix: la ganancia protegida, los ingresos en baja.
Quién tiene que preocuparse
Las expuestas son agencias, tercerizadoras y estudios profesionales que cobran por hora o por puesto (una tarifa por cada persona asignada a la cuenta) para redactar, investigar, armar informes y atender el primer nivel de consultas, justo las tareas que la automatización elimina más rápido. La exposición es mayor donde pocos clientes concentran los ingresos: basta que uno cierre o automatice un programa para que desaparezca una línea entera de negocio, como le pasó a Concentrix con dos.
La jugada es poner el ahorro sobre la mesa antes de que lo haga el área de compras del cliente. En la próxima renovación, mostrá cuántas horas le sacó la IA al trabajo, cobrá menos por esa parte y proponé en qué deberían gastarse las horas liberadas: la revisión, el criterio, el alcance que antes el cliente no podía pagar. La firma que ofrece el recorte decide qué lo reemplaza. La que espera se queda con el recorte y sin nada a cambio.
El dato a seguir son los próximos resultados de Accenture, en diciembre, y si los "precios más bajos en muchas áreas" pasan a ser la mayoría.
Durante dos años, la pregunta en el sector de servicios fue si la IA iba a bajar los costos. Este trimestre, las firmas que mejor ven los presupuestos de sus clientes empezaron a contar qué viene después. En Concentrix y en Teleperformance, los programas que pagan los clientes se achican mientras los márgenes aguantan: el ahorro aparece como menos volumen facturable. En Accenture los precios bajan, por motivos que la empresa atribuye a la competencia, al mismo tiempo que les pasa a los clientes más productividad de la IA. Es la primera señal de que el precio en sí empieza a moverse. Lo que le queda a un negocio de servicios es lo que puede vender cuando las horas desaparecen: el criterio sobre qué automatizar, la responsabilidad cuando algo falla y el alcance que antes nadie podía pagar. Las firmas que le pongan precio a eso pueden crecer como creció Accenture. Las que sigan cobrando horas van a presentar resultados como los de Concentrix.