De norte a sur

[email protected]

Progreso, temor y regulación de la IA

El avance de la inteligencia artificial obliga a reflexionar sobre los riesgos que implica su uso, pero también hay que aceptar los resultados positivos, por ello es necesario regularla. En México existe preocupación por el posible desplazamiento de trabajadores en áreas como la atención telefónica, trabajadores administrativos, diseñadores y otros trabajos debido al avance de la IA y la automatización. A nivel global, Goldman Sachs Research publicó que alrededor de 300 millones de empleos en el mundo están expuestos.

La reciente reunión del presidente Donald Trump con quienes controlan el desarrollo de la inteligencia artificial mundial, Jeff Bezos, fundador de Amazon; Elon Musk, Mark Zuckerberg, de Meta; Sundar Pichai, de Google, volvió a colocar el debate sobre la inteligencia artificial en el centro de la discusión pública. Su postura de no limitar el desarrollo de esta tecnología obliga a analizar si una regulación más estricta podría frenar la innovación o, por el contrario, sería una buena iniciativa para proteger datos personales, evitar el uso de bots para evitar tendencias, influir en procesos electorales o difundir información falsa.

El potencial de esta tecnología no sólo preocupa por la pérdida masiva de empleos, también proyecta escenarios relacionados con la seguridad y el control humano sobre sistemas cada vez más avanzados. Líderes políticos, empresarios tecnológicos y expertos en el campo advierten que su avance descontrolado podría representar un peligro para la humanidad, recientemente Dario Amodei, fundador y director ejecutivo de Anthropic, habló de la necesidad de desacelerar el desarrollo de sistemas cada vez más poderosos, dijo que la tecnología podría implicar "riesgos existenciales para la humanidad" si no se desarrollan mecanismos adecuados de supervisión y seguridad.
Está claro que la IA también tiene beneficios, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) destaca que su uso puede contribuir a mejorar la educación, fortalecer los sistemas de salud, impulsar la investigación científica y apoyar soluciones frente a desafíos globales como el cambio climático. Hay quienes ya toman en serio lo que podría acarrear una implementación sin límites de la Inteligencia Artificial, en Europa desde hace un par de años se aplica la Ley de Inteligencia Artificial de la Unión Europea (AI Act), considerada el primer marco legal a escala global. Además, la normativa exige transparencia, supervisión humana y medidas de seguridad para aplicaciones consideradas de alto riesgo.

Asimismo, la OCDE promueve principios para garantizar que la IA sea segura, confiable y respetuosa de los derechos humanos, al tiempo que fomente la innovación y la competencia económica. Aunque México aún se encuentra en una fase incipiente de discusión regulatoria es un tema que desde hace años forma parte del debate legislativo.
Pedro Salazar Ugarte, académico del Instituto de Investigaciones Jurídicas de la UNAM, sugirió en su momento que las regulaciones deben basarse en tres pilares: ética y transparencia (es decir, los algoritmos deben ser audibles y explicables, sin sesgos discriminatorios); protección de datos (que garantice la seguridad de la información personal utilizada por la IA), y supervisión y responsabilidad (con mecanismos de control para prevenir abusos y asegurar la rendición de cuentas).

El peligro de la falta de regulación según expertos es que podría facilitar la proliferación de sistemas utilizados para vigilancia masiva, manipulación informativa, fraude digital o ciberataques avanzados. Se tendría que pensar en un equilibrio para que la regulación tampoco afecte en innovación, inversiones y limitar el desarrollo de soluciones tecnológicas capaces de generar importantes beneficios sociales y económicos. La inteligencia artificial ya forma parte de la vida cotidiana, ahora el reto es definir las reglas bajo las cuales operará para que sus beneficios lleguen a la sociedad sin comprometer derechos, libertades y oportunidades laborales.

[email protected]