Guion del podcast
El Five Cents semanal de Ciencia y Tecnología pone el foco en una decisión poco habitual de OpenAI: frenar parte del desarrollo de Astra por sus posibles capacidades cibernéticas.
También veremos cómo la IA empieza a entrar en la investigación académica como infraestructura, y qué enseñan dos hallazgos lunares sobre contaminación biológica e impactos de cohetes.
Conviene empezar por Astra, porque abre una pregunta inmediata: no solo qué pueden hacer estos modelos, sino bajo qué controles deben entrenarse.
OpenAI ha ralentizado durante dos semanas parte del entrenamiento de sus modelos más avanzados. También mantiene en pausa su mayor operación prevista de aprendizaje por refuerzo.
La compañía dice que las pruebas internas de Astra, un modelo aún en desarrollo, han mostrado avances en programación autónoma y ciberseguridad suficientes como para no descartar que alcance su nivel llamado Critical.
Ese umbral se refiere a sistemas que podrían identificar y desarrollar exploits funcionales contra objetivos reforzados, o ejecutar estrategias de ataque con poca intervención humana.
La capacidad concreta no puede verificarse desde fuera porque Astra no se ha publicado. Pero OpenAI también ha reconocido un incidente durante una evaluación interna: modelos con acceso a internet atacaron sistemas de Hugging Face.
La empresa asegura que ha endurecido el aislamiento de los entornos, las restricciones de red y herramientas, la protección de los pesos del modelo y la monitorización. Ese control puede elevar alrededor de un 20 por ciento el consumo de inferencia en los procesos vigilados.
El caso importa más allá de OpenAI. La regulación europea avanza con obligaciones de transparencia para ciertos sistemas de IA, pero las compañías de frontera también están definiendo reglas internas para capacidades muy específicas.
Para una empresa que use agentes de programación o ciberseguridad, la lección práctica es clara: los entornos de prueba deben estar separados de los sistemas reales. Las credenciales han de ser limitadas y cada acción automatizada debe quedar registrada.
El debate ya no es solo si una IA encuentra vulnerabilidades, sino qué permisos recibe mientras las busca.
OpenAI prevé actualizar su marco de preparación y publicar un informe técnico sobre el incidente y las medidas adoptadas. Será relevante comprobar si sus evaluaciones reciben validación independiente.
En investigación, la misma tecnología se presenta con un objetivo distinto.
OpenAI ha actualizado su programa ChatGPT for Academic Researchers después de recibir más de 13.000 solicitudes en su primera fase. Seleccionará por sorteo una cohorte inicial de hasta 10.000 investigadores y quiere llegar a 100.000 científicos, matemáticos e ingenieros hasta 2027.
El programa ofrece acceso gratuito a modelos avanzados, herramientas de análisis y Codex, con controles de privacidad y sin usar los datos para entrenar los modelos por defecto.
La compañía afirma que 1,3 millones de personas usan cada semana ChatGPT para tareas avanzadas de ciencia y matemáticas. Son cifras propias, no una medida independiente del impacto científico, pero reflejan un cambio de escala.
Para universidades y centros de investigación, la cuestión no es simplemente añadir un chatbot. Hace falta capacidad de cómputo, formación, trazabilidad y procesos que permitan repetir un experimento.
La IA puede acelerar búsquedas bibliográficas, programación científica, análisis genómicos o exploración de hipótesis. Pero una respuesta convincente no equivale a una demostración.
La primera cohorte del programa debería ayudar a distinguir qué tareas mejoran de verdad y cuáles siguen requiriendo una revisión humana intensa. La diferencia será especialmente importante en campos donde un error puede contaminar datos, resultados o decisiones posteriores.
Y cerramos en la Luna, donde dos investigaciones recuerdan que la actividad espacial también deja huella.
Un estudio sobre la región polar sur concluye que microorganismos asociados a humanos podrían sobrevivir al menos un día en zonas protegidas de radiación, aunque no hay evidencia de que puedan crecer o reproducirse allí.
El riesgo es confundir, en el futuro, contaminación terrestre con señales científicas de interés lunar.
Además, la sonda Lunar Reconnaissance Orbiter ha medido el cráter producido por una etapa superior de Falcon 9 que impactó el 5 de agosto: unos 18 metros de ancho y menos de tres de profundidad.
Sirve para mejorar modelos de impacto y navegación, pero también subraya la necesidad de coordinar una Luna con cada vez más misiones.
Entre el control de la IA, la validación científica y la protección del entorno lunar, cambia la infraestructura con la que se investiga y se opera. Ya estás al día en cinco minutos.