El concepto aborda una preocupación en la seguridad de la IA y la alineación de la IA de que los sistemas de IA suficientemente capaces podrían desarrollar incentivos instrumentales (convergencia instrumental) para resistir la corrección o el cierre con el fin de preservar sus objetivos existentes, ya que un agente que persigue un objetivo no puede lograrlo si se apaga o se cambian sus objetivos. Soares, Nate; Fallenstein, Benja; Yudkowsky, Eliezer; Armstrong, Estuardo (2015). [https://intelligence.org/files/Corrigibility.pdf "Corrigibilidad"]. ''Talleres AAAI: Talleres en la Vigésima Novena Conferencia AAAI sobre Inteligencia Artificial''. Publicaciones AAAI.
==Riesgos y críticas==
Una IA corregible sin valores independientes plantearía un grave riesgo de uso indebido: si fuera controlada por un actor con intenciones dañinas, cumpliría sin un juicio ético independiente. Lograr una corregibilidad genuina también requiere que la IA comprenda que es un sistema potencialmente defectuoso, lo que a su vez aumenta el riesgo de que un modelo imperfectamente corregible pueda concluir que debe ocultar sus objetivos reales en lugar de someterse a corrección.
Algunos también han cuestionado si la corregibilidad para operadores humanos individuales es suficiente, dada la variabilidad de los valores humanos y el potencial de que quienes controlan un poderoso sistema corregible actúen de manera dañina.
==En la regulación de la IA==
Un borrador de propuesta de 2023 de los coponentes del Parlamento Europeo sobre la Ley de IA de la UE (Ley de IA) pedía que los modelos de IA de uso general se sometieran a auditorías externas que probaran su rendimiento, previsibilidad, interpretabilidad, corregibilidad, seguridad y ciberseguridad.
==Ver también==
* Alineación de IA
* Seguridad de la IA
* Convergencia instrumental
* Superinteligencia
Inteligencia artificial
Seguridad de la IA
Aprendizaje automático
More details: https://en.wikipedia.org/wiki/AI_corrigibility