Está de moda hablar de inteligencia artificial. Modelos de gran relevancia como ChatGPT, Open Assistant, Bard, etc. siguen apareciendo en nuestras conversaciones diarias. Sin embargo, el hecho de que sea popular no significa que la IA sea nueva. De hecho, existe desde hace muchos años, aunque de forma menos deslumbrante en las aplicaciones que en los grandes modelos de lenguaje.
La democratización de la IA seguirá con la explosión exponencial de las capacidades de estos sistemas, tanto desde la perspectiva de los usuarios como de los desarrolladores. Por eso me sorprende un poco que Elon Musk y otros tecnólogos pidieron recientemente una moratoria en el desarrollo de «sistemas más poderosos que GPT-4». El Tratado de No Proliferación de Armas Nucleares, cuyo objetivo es prevenir la proliferación de armas nucleares, tiene sentido en todo el mundo porque la gente no puede ir al centro comercial y comprar centrífugas para enriquecer uranio. Sin embargo, cualquier persona con conocimientos técnicos mínimos puede comprar espacio en un servidor en la nube y comenzar a desarrollar sistemas de inteligencia artificial basados en bibliotecas de código abierto y conjuntos de datos de capacitación de acceso público. Por lo tanto, prohibir el desarrollo de aplicaciones de IA sin considerar si es una buena idea no es factible en mi opinión. Otra cosa es prohibir o restringir ciertos usos de la IA, que es lo que pretenden las futuras leyes europeas de IA.
En lugar de intentar establecer barreras en el campo, es mejor regular y trazar líneas rojas infranqueables, al mismo tiempo que se impulsa la capacidad innovadora de las universidades y la industria en el resto de Europa. Sé que hoy en día hay más preguntas que respuestas en el campo, por lo que identificar lo que se puede y lo que no se puede hacer es una tarea casi abrumadora. Sin embargo, si bien esto no será fácil y todavía tenemos mucho que aprender de la IA, es tarea de los reguladores definir las responsabilidades de cada actor involucrado en el ciclo de vida de un sistema de IA (ya que las responsabilidades no se pueden descargar a una máquina) , a Los organismos de vigilancia autorizados intervinieron rápidamente y sacaron del circuito a quienes pretendían utilizar la tecnología de manera irresponsable. La regulación debe combinar una base sólida con la flexibilidad necesaria para acomodar el rápido progreso que está ocurriendo (y seguirá ocurriendo) en esta área.
Por eso, mi propuesta es que abordemos la gobernanza de la IA de la misma manera que se abordó en su momento la regulación de la aviación comercial. Es decir, bajo estrictos estándares internacionales de seguridad a toda costa y un proceso de mejora y actualización continua, los profesionales aprenden no solo de los accidentes (que afortunadamente cada vez es menos en la aviación comercial), sino de cualquier accidente menor en el aprendizaje. o error
El Convenio de Chicago, que creó la Organización de Aviación Civil Internacional (OACI) hace casi 80 años, establece un marco regulatorio para la gobernanza internacional y estándares técnicos estrictos que los estados miembros de la OACI deben convertir en ley en sus respectivas jurisdicciones, y las aerolíneas deben cumplir con la confianza ., si quieren cruzar fronteras internacionales. Los reguladores regionales o nacionales de los estados miembros de la OACI (y en el caso de la UE, también la Agencia Europea de Seguridad Aérea – EASA) emiten licencias solo después de una larga cadena de certificaciones.
Los pilotos solo tienen licencia para volar después de someterse a un entrenamiento muy riguroso, y lo mismo ocurre con los mecánicos o controladores de tráfico aéreo que inspeccionan las aeronaves en sus respectivos niveles. Los aviones no se venden ni se ponen en servicio hasta que pasan innumerables pruebas, revisando cada tuerca o tornillo. Incluso la solvencia y competencia del equipo directivo de la aerolínea debe ser examinada y certificada, ya que una actividad de alto riesgo como esta no puede confiarse a un equipo competente e inexperto. Esto es puro sentido común.
Está claro que no es lo mismo un aficionado a la aviación que construye su propio avión que un Airbus o un Boeing que construye un modelo de avión comercial que transportará a millones de pasajeros; impactará en la vida de miles o millones de personas. En este contexto, cobra especial importancia la regulación y la existencia y adopción de normas.
Revisa a fondo el algoritmo.
Me parece interesante que el enfoque de la aviación comercial esté basado en datos (un enfoque basado en datos), porque, por supuesto, no esperas hasta que un avión se estrella para mirar su caja negra. Las aerolíneas, bajo la supervisión de inspectores y autoridades, analizan cuidadosamente el más mínimo ruido o anomalía en los datos registrados por el sistema durante el vuelo. En otras palabras: todo se procesa y compara, una y otra vez, por lo que volar es una actividad de muy bajo riesgo y todos nos beneficiamos de este ecosistema tan inteligente. Los que volamos, para poder llegar seguros a nuestro destino; las empresas y profesionales del sector, para ganarnos la vida dignamente. Tenga en cuenta que, contrariamente a lo que suelen decir las empresas de tecnología, en la aviación comercial, la seguridad nunca se calcula como un costo o una barrera para la innovación, sino como una condición para que el negocio en sí mismo deje de existir de inmediato.
En este sentido, doy la bienvenida a las propuestas regulatorias de IA basadas en un sistema de análisis de riesgos y que especifican un conjunto de requisitos aplicables a los sistemas de IA de alto riesgo, especialmente para los proveedores de sistemas, como desarrollar una declaración de conformidad de la UE y colocar el marcado CE de conformidad. Lógicamente, estas certificaciones deben complementarse con certificaciones, sellos y marcas de protección de datos, que por supuesto también deben aplicarse con igual rigor a los sistemas que tratan datos personales. Además, al igual que las inspecciones mecánicas de las aeronaves cada cierto tiempo o cuando se verifican determinados parámetros, los sistemas de inteligencia artificial deben someterse a auditorías periódicas obligatorias, en las que, como si fueran los tornillos y tuercas de la aeronave, los algoritmos que hay detrás de su Los datos de operación son revisados por inspectores y mecánicos para garantizar la seguridad del sistema y prevenir accidentes. No vale la pena que esta información esté protegida por los llamados derechos de propiedad intelectual. Para concursos, sí; para inspectores, nunca.
En definitiva, si todo parece indicar que la inteligencia artificial seguirá desarrollándose a una velocidad vertiginosa en los próximos años, desplazando a los humanos y permitiendo que las máquinas tomen decisiones que afectan a nuestro día a día, entonces la inteligencia natural y fundamental sugiere que copiemos una fórmula exitosa para los que se ganan la vida transportando con seguridad personas a treinta mil pies ya velocidades de más de quinientas millas.
Asimismo, así como los pasajeros pueden reclamar daños y perjuicios cuando se estrella un avión, el campo de la inteligencia artificial necesita reglas claras y específicas en caso de accidente, y lo más importante, las habrá en primer lugar. En este sentido, aplaudo que Europa esté abordando una propuesta sobre responsabilidad en el ámbito de la IA, aunque la propia normativa de IA también espera incluir el derecho a recurrir por los daños causados por los sistemas de IA. Solo de esta manera se puede garantizar la implementación y el cumplimiento efectivos de las leyes de IA.
Entonces, dado que la industria aún está en pañales, nuestra capacidad para sentar las bases de una IA segura, con estándares internacionales equivalentes, brindará la confianza necesaria a los ciudadanos y hará una contribución positiva al progreso humano.
Entonces, damas y caballeros, abróchense el cinturón, viene la IA.
Leonardo Cervera Navas es Director del Supervisor Europeo de Protección de Datos
Puedes seguir a PeriodistasdeGénero Tecnología en Facebook y Twitter o darte de alta aquí para recibir nuestra newsletter semanal.
