Retos para el derecho administrativo derivados de la utilización de inteligencia artificial

• Autor: Nicole Marie Suárez Uribe
• Cargo: Abogada, máster en Abogacía Digital y Nuevas Tecnologías y en Derecho de la Administración del Estado, ambas por la Universidad de Salamanca, y máster en Alta Dirección Pública Estratégica; valedictorian por la Universidad Rey Juan Carlos y el IGLOBAL
• Páginas: 1-16

I. INTRODUCCIÓN

En el siglo XX¹ y a principios del siglo XXI reflexionar sobre inteligencia artificial era una cuestión propia de ciencia ficción, de películas como The Terminator (1984), u objeto de investigaciones, tal como “Computing machinery and intelligence”², obras catalogadas como futuristas. Sin embargo, hoy los sistemas y máquinas inteligentes son una realidad innegable. Normalmente hacemos uso de motores de búsqueda, nos valemos de asistentes virtuales, recibimos recomendaciones personales, traducimos textos, hemos sido usuarios de sistemas de reconocimiento de rostro y voz, hemos visto con frecuencia drones, quizás hayamos estado en un vehículo de conducción autónoma, etc. En esencia, la inteligencia artificial ha traspasado la esfera tecnológica, convirtiéndose en un fenómeno social.

Lo anterior ha generado múltiples incógnitas a nivel jurídico; por ejemplo, la responsabilidad civil de la inteligencia artificial o la titularidad de los derechos de propiedad intelectual de lo creado por IA. En ese orden, resulta imprescindible relacionar la inteligencia artificial con la Administración pública, ya que la modernización del sector público ha sido una petición histórica y aquí encuentra una oportunidad de alcanzar el objetivo anhelado. No obstante, su incorporación representa nuevos riesgos que deben ser considerados antes de su aplicación.

Siendo así, mediante este trabajo nos proponemos analizar los retos para el derecho administrativo derivados de la utilización de inteligencia artificial, con el objetivo general de reflexionar acerca de las implicaciones que trae consigo esta nueva tecnología cada día más presente. En esa línea, para una mayor comprensión de los lectores, hemos segmentado el estudio del modo que sigue: conceptualización de inteligencia artificial, la IA en la Administración pública, los desafíos para el derecho administrativo y las posibles soluciones para garantizar una innovación con seguridad jurídica, aspectos que se desarrollarán a continuación.

II. DESARROLLO

2.1 Conceptualización de inteligencia artificial

La noción de inteligencia artificial, con el nombre que la conocemos, nace, en 1956, en New Hamsphire, Estados Unidos de América, con la Conferencia Dartmouth. El fundamento central de dicha conferencia fue que “cualquier aspecto del aprendizaje u otra característica de la inteligencia puede, en principio, ser descrita con tanta precisión que es posible construir una máquina que la simule”³. Ahora bien, adentrándonos en los términos que componen el concepto tenemos, de un lado, artificial, entendido como lo no natural, aquello creado por el ser humano; de otro lado, inteligencia, para el que, según expertos como Nicolas Miailhe y Cyrus Hodes, ha habido una incapacidad de la ciencia para lograr una definición⁴. Para muestra, si consultamos la palabra “inteligencia” en el Diccionario de la lengua española de la Real Academia Española (RAE), podemos observar que presenta ocho significados. En ese contexto, hemos encontrado formulaciones amplias, otras estrechas, algunas inadecuadas⁵ y, también, específicas⁶.

Desde nuestro punto de vista, lo anterior es la causa principal de que no exista un consenso a la hora de conceptualizar la inteligencia artificial, sumado a los cambios del concepto propios de la evolución en el tiempo; por citar un caso, antes se consideraba inteligente la reconocida supercomputadora Deep Blue, vencedora ante el campeón del mundo del ajedrez en aquel momento, pero hoy se estima como común. Por eso nos encontramos con múltiples enfoques; uno de ellos, el de la Organización para la Cooperación y el Desarrollo Económicos, para quienes se trata de un sistema basado en la máquina que puede hacer predicciones, recomendaciones o tomar decisiones, influyendo en entornos reales o virtuales, sobre ciertos objetivos definidos por los humanos⁷.

En otro orden, el Grupo de expertos de alto nivel sobre inteligencia artificial, creado por la Comisión Europea, añade que, dado un objetivo complejo, actúan percibiendo su entorno mediante la obtención de datos, interpretan los que recopilan, procesan la información y deciden las acciones por llevar a cabo para cumplir el objetivo⁸. De una forma menos técnica, el profesor Juan Corvalán asevera que se trata del conjunto de tecnologías para hacer máquinas y programas informáticos capaces de ejecutar operaciones comparables a las que llevan a cabo los seres humanos, subrayando que no existe posibilidad de reproducir de manera artificial un órgano de naturaleza tan compleja como el cerebro⁹. En nuestra opinión, inteligencia artificial es esa tecnología que usamos para simplificar nuestras vidas y resolver problemas con mayor celeridad. Tan solo pensemos en Waze, Siri, Alexa, Google Assistant, Pinterest y muchas más aplicaciones basadas en IA que forman parte de nuestra cotidianidad.

Por otra parte, algunos autores son precavidos y optan por no precisar una definición; en lugar de ello, clasifican la IA en función de sus capacidades. Por eso se ha extendido el criterio de segmentarle en IA fuerte, aquella capaz de equiparar o superar la inteligencia del homo sapiens, y en IA débil, cuando solo puede recrear ciertos elementos de su inteligencia¹⁰. Asimismo, se ha difundido una clasificación más amplia y detallada, como la del profesor Arend Hintze, de cuatro tipos: máquinas reactivas, IA con memoria limitada, máquinas basadas en la teoría de la mente y la IA con conciencia en sí misma¹¹.

2.2 IA en la Administración pública

Así como las nuevas tecnologías han sido aprovechadas y fomentadas por el sector privado, la revolución no se detiene allí, sino que llega a lo público. A este respecto, el profesor Carles Ramió ha señalado que debe verse la IA como una oportunidad de mejora de la Administración pública; no puede mantenerse en una burbuja alejada de la tecnología, ya que resulta perjudicial asumir una posición reactiva, sino que es mejor trazar una estrategia proactiva, abierta a una revolución 4.0, en la que se conciba desde el inicio cada uno de los aspectos que caracterizan lo público¹².

En ese tenor, es indispensable enfatizar que “la realización del interés general es la razón de ser de la Administración pública”¹³ . En ese marco, la idea de hacer presente la IA en esta esfera de lo público encuentra su fundamento primordial en el propio derecho administrativo. Ciertamente, esta rama tiene como carácter esencial que los administrados puedan hacer valer su derecho fundamental a la buena administración, prerrogativa que engloba los principios rectores de actuación administrativa: eficiencia, efectividad y eficacia; siendo más ágil, se respetan los tiempos de los ciudadanos, plazos que muchas veces se relegan a un segundo plano sobre la base de la burocracia administrativa y su supuesta característica de infalibilidad¹⁴. De esa forma, la inteligencia artificial se vislumbra como una de las tecnologías que permitirán una gestión innovadora, perfeccionando cada una de las etapas que conforman el ciclo de las políticas públicas, decidiendo de forma más atinada, mejorando los servicios que se ofrecen a la sociedad, así como la gerencia interna de las mismas instituciones. Estas oportunidades redundan en el enriquecimiento de la relación entre los administrados y la Administración pública.

En relación con esto, los gobiernos de todo el mundo han mostrado su interés en la IA, tendencia que queda demostrada en que más de sesenta países han desarrollado sus estrategias nacionales de inteligencia artificial¹⁵, al tiempo que analizan la pertinencia de su regulación, como la propuesta del Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial. De igual manera, según el Observatorio de Políticas en materia de IA de la OCDE, existen 98 iniciativas de inteligencia artificial en el sector público¹⁶. En definitiva, no hay dudas de su potencial. En lo adelante, con carácter enunciativo, mostraremos usos prácticos de IA en administraciones públicas concretas:

-En las administraciones tributarias

En Chile, el Servicio de Impuestos Internos desarrolló modelos predictivos de redes neuronales para la detección de potenciales contribuyentes de comportamiento tributario agresivo, estos modelos alertan ante riesgos, con el objetivo de que se activen los protocolos de revisión de las autoridades hacia los contribuyentes. El SII asegura que las herramientas tecnológicas de big data, machine learning, clusterización, visualización, entre otras, han sido claves para que en el 2020 controlaran el uso de facturas de defraudación fiscal y recaudaran más de 20 mil millones¹⁷.

Asimismo, se ha expandido el uso de chatbots (programa informático que simula una conversación real con una persona). En España, haciendo uso de la tecnología IBM Watson, el asistente virtual de la Agencia Tributaria entabla una conversación en lenguaje natural con los administrados sobre las obligaciones fiscales; desde su puesta en marcha, se redujo en un 80 % la recepción de los correos electrónicos para estas consultas¹⁸. En esta línea, en el Estado de Piauí, Brasil, se utiliza la misma tecnología, con la asistente virtual Teresa; según los registros, para abril de 2020 ya llegaban a 5600 preguntas y respuestas por mes¹⁹. Como estos podemos encontrar más: uno de los más exitosos es Alex en la Australian Tax Office, también, aunque con funciones más simples, VeroBot en Finlandia, Sofía en Perú, Rita en Guatemala, Ruth en Reino Unido, etcétera.

De igual manera, la Inland Revenue Authority of Singapore utiliza técnicas de text mining para clasificar, analizar y obtener información de los correos electrónicos remitidos por los contribuyentes a la autoridad, lo que les permite desarrollar comunicaciones anticipadas o preventivas²⁰.

-En la administración de justicia

El caso emblemático es Prometea, un software creado para automatizar asignaciones repetitivas y aplicar IA a la hora de...