Inteligencia artificial en Perú: Qué es y claves para adaptarse

El miércoles 5 de julio de 2023, se publicó la Ley N° 31814 en El Peruano, siendo la primera en América Latina que promueve el uso ético y responsable de la inteligencia artificial (IA) para impulsar el desarrollo económico y social del país, asegurando el respeto a los derechos humanos.

Si bien la IA tiene el potencial de mejorar la productividad, la innovación y la competitividad empresarial, también plantea desafíos y riesgos que requieren regulación y mitigación en áreas como el empleo, la privacidad, la seguridad, la equidad y la responsabilidad.

Kerim Rumie, Country Manager de GeoVictoria Perú y Ecuador, empresa líder en la automatización de gestión de asistencia en más de 40 países, gracias a su capacidad de innovación y adaptabilidad de nuevas tecnologías y legislación laboral, comparte alcances de la nueva ley, y claves relevantes para que las empresas puedan adaptarse a ellas.

ADAPTAR LOS PRINCIPIOS DE LA IA: La ley establece principios que deben orientar el uso de la IA en el país, abarcando aspectos como la seguridad basada en riesgos, la pluralidad de participantes, la gobernanza de internet, la sociedad digital, el desarrollo ético, la transparencia, la no discriminación, la protección de datos personales, la confianza y la responsabilidad compartida. Las empresas deben entender y adherirse a estos principios, asegurándose de que sus sistemas y aplicaciones de IA los cumplan y fomenten.

IMPLEMENTAR MEDIDAS DE SEGURIDAD Y CALIDAD: Los sistemas y aplicaciones de IA deben tener medidas técnicas y organizativas para asegurar su seguridad, calidad, confiabilidad, interoperabilidad y eficiencia. Estas medidas deben basarse en los riesgos relacionados con los derechos humanos, salud, seguridad y medio ambiente asociados al uso de la IA. Las empresas deben evaluar estos riesgos y tomar las medidas necesarias para prevenirlos o reducir su impacto.

GARANTIZAR LA TRANSPARENCIA Y EXPLICABILIDAD: Además, estos sistemas de IA deben ser transparentes y explicables para usuarios y autoridades. Las empresas deben brindar información sobre el funcionamiento, objetivos, datos, algoritmos, criterios y resultados de la IA, así como las posibles consecuencias adversas. Además, deben ofrecer mecanismos para que los usuarios comprendan y cuestionen las decisiones o acciones tomadas por la IA.

RESPETAR LA NO DISCRIMINACIÓN Y LA INCLUSIÓN: Con el principio de no discriminación e inclusión, se busca evitar sesgos y prejuicios que afecten a grupos o individuos. Las empresas deben garantizar que los datos, algoritmos y criterios utilizados por la IA sean representativos, diversos, equitativos y justos. Además, deben fomentar el acceso y la participación de todos los sectores sociales en el uso y desarrollo de la IA.

PROTEGER LOS DATOS PERSONALES: La ley exige que los sistemas y aplicaciones de IA protejan los datos personales procesados o generados, cumpliendo con la legislación vigente sobre protección de datos. Las empresas deben obtener el consentimiento informado de los titulares de datos para el uso de la IA, garantizando la seguridad, confidencialidad e integridad de dichos datos.

También deben respetar los derechos de acceso, rectificación, cancelación y oposición de los titulares con relación a sus datos personales.

ASUMIR LA RESPONSABILIDAD COMPARTIDA: La ley establece la responsabilidad compartida de los usuarios, desarrolladores, proveedores y operadores de sistemas y aplicaciones de IA en cuanto a su uso y efectos. Las empresas deben asignar y definir responsabilidades para cada actor involucrado en el ciclo de vida de la IA, implementando mecanismos de rendición de cuentas, supervisión y control.

Además, deben anticipar y reparar cualquier posible daño o perjuicio que la IA pueda causar a las personas o al medio ambiente.