La Comisión de Ciencia, Tecnología e Inteligencia Artificial que preside el senador, Wilmer Reyes Berríos, llevó a cabo una vista pública sobre la Resolución Conjunta del Senado 1 para ordenar al Puerto Rico Innovation and Technology Service (PRITS), realizar un registro de todas las empresas o negocios que operen, desarrollen o utilicen sistemas de Inteligencia Artificial (IA) en Puerto Rico.
La pieza legislativa de la autoría del presidente del Senado, Thomas Rivera Schatz, establece que la IA necesita regularse. “La Inteligencia Artificial es un instrumento tecnológico que ha llegado a nuestras vidas para quedarse. Sin embargo, debido a la incertidumbre que genera su gran capacidad y los frecuentes cambios en su uso, es necesario regularla. Por ello, diversos estados han presentado legislación en esa dirección. Entre las medidas destacan las dirigidas a regular la información que se comparte de los ciudadanos, así como a evitar el discrimen que puede generar este tipo de tecnología”.
Durante la audiencia, Antonio Ramos Guardiola, principal ejecutivo de PRITS sostuvo que apoyan la medida con enmiendas. “Para mejorar la efectividad del registro y garantizar que cumpla con su propósito sin que ello ocasione una carga administrativa innecesaria sobre el sector empresarial, sugerimos que se delimiten más claramente los criterios que definirán a las entidades sujetas al mismo. En ese sentido, recomendamos limitar el alcance del registro a empresas cuya actividad principal sea el desarrollo, modificación o comercialización de sistemas de IA, excluyendo a los negocios que solo utilizan IA como un complemento en sus operaciones”, expresó el deponente.
.png)
Asimismo, Guardiola recomendó revisar los requisitos de información solicitados en el formulario. “Entendemos que la información solicitada debería enfocarse en datos generales sobre el propósito del sistema de IA, su impacto en la privacidad o derechos de los ciudadanos y si ha sido sometido a auditorías que verifiquen la ausencia de sesgos o discriminación. Asimismo, el registro debe categorizar las empresas según su aplicación de IA”, añadió el principal ejecutivo de PRITS.
El deponente dividió dichas categorías en salud y medicina; finanzas y seguros; juegos de azar y propuestas; educación y aprendizaje; transporte y movilidad; ciberseguridad y vigilancia; entretenimiento y contenido digital; energía y medio ambiente; automatización del trabajo; servicio al cliente; apoyo de back office; gobierno y administración pública.
Reyes preguntó al deponente que mencione ejemplos del por qué sobre el uso de la IA en esas categorías propuestas. Guardiola mencionó por ejemplo el área de salud y medicina asistido por la IA. “La Inteligencia Artificial se ha utilizado para lo que es el análisis de tejidos, para determinar si un tejido tiene un tumor maligno o no contiene un tumor maligno. Utilizando la Inteligencia Artificial se ha alcanzado un mayor grado de precisión en ese diagnóstico. Sin embargo, debemos limitar la IA a que haga recomendaciones en lugar de tomar determinaciones finales”, sostuvo Guardiola.
Igualmente, a preguntas de Reyes sobre las enmiendas propuestas para que no toda la información se haga pública, Guardiola mencionó que es una cuestión de acceso a la información. Explicó que el listado de direcciones de ‘IP’ de la empresa debe considerarse confidencial, aunque esté disponible en páginas web, pero mientras más se exponga la información en el registro, más propenso es el ataque cibernético a la empresa participante.
De igual manera, el senador de mayoría Rafael “Rafy” Santos Ortiz, preguntó sobre el impacto de las empresas con este registro. Guardiola indicó que sería un registro de todas las corporaciones “sería un registro de corporaciones adicional y pudiese crear un poco de miedo para aquellas empresas que están empezando a utilizar la IA”, indicó el principal ejecutivo de PRITS.
De otra parte, participó como deponente la doctora Zayira Jordán Conde, presidenta de Atlantic University quien mostró reservas con la medida como está redactada. Esto por entender que el control a través del registro propuesto podría ser contraproducente. “Dicho registro sería también impráctico en el sentido de que el manejo del mismo requeriría incluso informes de individuos y organizaciones que potencialmente podrían violar la privacidad que procuramos proteger y por el avanzado estado y paso de adopción de estas tecnologías, además requeriría volúmenes de insumo inmanejables para el personal existente de PRITS”, sostuvo Jordán.
A la vez, Jordán recomendó que se examinen las posibles brechas a la protección de la privacidad de datos en nuestras leyes estatales que permitan a la legislatura responder con proyectos que optimicen los requerimientos a las organizaciones. También, a preguntas de Reyes, la deponente respondió que la realidad es que la mayoría de las organizaciones en Puerto Rico, en la nación y en el mundo, están utilizando Inteligencia Artificial. “Así que, el término ‘uso’ en la legislación quizás es lo que crea un alcance demasiado amplio en la resolución”. Igualmente, Jordán enfatizó en la educación sobre el proceso.
De igual manera, Jordán indicó que la recomendación es para organizaciones que desarrollen ese tipo de tecnología y que sean usadas en Puerto Rico, sí podrían estar dentro de este registro porque así permitiría saber quiénes han desarrollado algoritmos que han utilizado cierto tipo de datos o quiénes están alimentando el sistema y cuáles son las prácticas sobre esos datos.
Además, presentó sus recomendaciones sobre la medida el consultor de seguridad cibernética, Eduardo Cardín. Entre las mismas, mencionó el definir qué entidad será responsable de supervisar y garantizar el cumplimiento de la obligación de ingresar y actualizar la información en el registro. “Esto es esencial para evitar omisiones, asegurar la precisión de los datos y mantener la integridad del registro. En el escenario que se designe al PRITS como la entidad responsable de la supervisión y cumplimiento de este registro, es importante considerar que su función principal está enfocada en dirigir la transformación digital del gobierno”, indicó Cardín.
De igual forma, Cardín mencionó que la Resolución establece que la información obtenida será de uso público. “Permitir el acceso público al registro podría exponer información sensible de las empresas, como direcciones IP, detalles sobre la tecnología utilizada o modelos de lA implementados. La divulgación de este tipo de datos podría generar vulnerabilidades de seguridad, riesgos de ataques dirigidos, comprometer la ventaja competitiva de las empresas o incluso problemas regulatorios a las entidades registradas”, detalló el consultor.
En la misma línea, Cardín explicó a la Comisión que el propósito debe ir dirigido a evaluar el uso prudente de la herramienta de IA. “Que a los ciudadanos se les garantiza una protección de la información, concurriendo que se puede establecer prioridad para sectores que estén utilizando información altamente sensible como el sector de la salud, definitivamente, el sector financiero y otros sectores de servicio sobre todo el gubernamental que todos los días están trabajando con la gestión del ciudadano”, dijo el deponente.
