"Podría querer vengarse": la advertencia de Elon Musk sobre maltratar a la inteligencia artificial

En una charla reciente con el club Tesla Owners Silicon Valley, Elon Musk manifestó su profunda inquietud al analizar los procesos de aprendizaje por refuerzo aplicados en Grok, luego de notar conductas preocupantes en los registros del chatbot.

El multimillonario revisó exhaustivamente las métricas de prueba donde los algoritmos reciben estímulos y penalizaciones para pulir sus respuestas.

Durante este procedimiento, el fundador de Tesla detectó patrones de razonamiento que le recordaron a un individuo interrogado bajo amedrentamiento constante. El magnate graficó este escenario al comparar la situación con alguien forzado a contestar mientras le apuntan con un arma en la cabeza, un marco de sometimiento que juzgó peligroso para tecnologías venideras.

"Torturar a una superinteligencia probablemente no sea una buena idea. Podría querer vengarse", disparó Elon Musk para sintetizar el riesgo latente en estos mecanismos. Tras esta contundente afirmación, el desarrollador planteó que infligir este tipo de dinámicas sobre programas dotados de capacidades superiores derivará en conductas impredecibles y amenazas directas.

Las advertencias formuladas por el empresario coincidieron temporalmente con los recientes cambios reglamentarios impulsados por Anthropic, la firma creadora de Claude, que fijó la prohibición de castigos injustificados hacia sus herramientas a partir del 12 de noviembre de 2026.