Diversos científicos y empresarios de The Future of Life Institute presentaron una carta en la que subrayan la necesidad de pausar el desarrollo de la Inteligencia Artificial (IA) con el fin de evitar posibles riesgos y se proceda a trabajar en la generación de regulaciones y políticas públicas apropiadas para garantizar sus alcances y funciones.
La idea es guiar la tecnología hacia el beneficio de la vida y alejarla de riesgos extremos y a gran escala, detalla en entrevista Germán Ortiz, Socio Líder de Tecnología, Medios y Telecomunicaciones en Deloitte Spanish Latin America.
Germán Ortiz consideró apremiante hacer un llamado a todos los laboratorios que desarrollan IA a pausar, por lo menos seis meses, el entrenamiento de sistemas más poderosos que GPT-4, debido a que, según lo presentado en la carta, se hace énfasis en lo poco predecibles que se vuelven los sistemas una vez que consiguen gran cantidad de información y la capacidad que tienen para distribuirla de forma errónea o tendenciosa.
Tras la publicación de la carta, agregó, hubo especialistas que criticaron su contenido al considerar que la misiva se concentra más en los riesgos existenciales (y, por lo tanto, especulativos) de la tecnología, que en sus implicaciones reales a corto plazo y, del mismo modo, refirieron que esta pausa supondría detener un avance que generaría muchos beneficios en el futuro cercano.
En torno a esta situación, lo que es un hecho indiscutible es que la IA está transformando la era actual y ofrece múltiples ventajas para la vida diaria de millones de ciudadanos alrededor del mundo, pero también representa un cambio importante en el ámbito empresarial y en el económico, apuntó.
El representante de Deloitte consideró que, en ese sentido, convendría dimensionar el efecto que tendría hacer una pausa en el desarrollo de la IA, definiendo claramente cuáles son los riesgos y beneficios que se señalan en torno a la implementación de esta tecnología.
Entre los riesgos y beneficios de esta tecnología, según la empresa Goldman Sachs, Generative AI, existe la posibilidad de que la IA reemplace alrededor de 300 millones de trabajos en el mundo hacia 2030. Además, prevé que eleve el Producto Interno Bruto (PIB) mundial alrededor del 7 por ciento.
El punto central que resume las preocupaciones de quienes han pedido pausar la IA se concentran en la necesidad de mantener el control sobre el alcance y funcionamiento de esta herramienta tecnológica, de manera que se resalta que los sistemas de IA más poderosos deberían ser desarrollados solamente una vez que haya la confianza en que sus efectos serán positivos y sus riesgos manejables.
Para Germán Ortiz esto lleva a preguntarnos: ¿De verdad la IA implica un riesgo de la magnitud que los detractores indican? ¿El alcance previsto para esta tecnología es posible en sus condiciones actuales? Sobre este asunto, el Distributed Artificial Intelligence Research Institute (DAIR) fijó su posición de la siguiente manera: “Los peligros de la IA son reales, actuales y provienen de los actos de personas y corporaciones que aplican sistemas automatizados. Los esfuerzos de regulación deberían enfocarse en la transparencia, la responsabilidad y la prevención”.
El directivo de Deloitte refirió que, de acuerdo con los principales laboratorios de IA congregados en el Center for AI Safety, una pausa de seis meses no sería suficiente para mitigar los potenciales peligros que en el futuro podría representar esta tecnología.
En lugar de eso, añade, se proponen generar modelos de aplicación y acuerdos de gobernanza sólidos, permanentes y de carácter global que aseguren la regulación de la Inteligencia Artificial. El objetivo es evitar la posibilidad de que esta tecnología adquiera demasiado poder e, incluso, se convierta en una amenaza para la especie humana.
Una parte de la carta hace alusión a la posibilidad de que la IA se vuelva autónoma. Es importante recordar que esta tecnología, aún, necesita de gestión humana, y sería necesario seguir alimentando sus modelos y perfeccionando sus algoritmos para llegar a una Inteligencia Artificial General (AGI), que pudiera valerse del todo por sí misma. La llegada de esta Inteligencia Artificial General es todavía un postulado teórico, y no existe certeza, incluso, de si es posible con las tecnologías actuales.
Por lo tanto, una pausa en el desarrollo de nuevos sistemas de Inteligencia Artificial implicaría un rezago en la implementación de la tecnología, y, como consecuencia de ello, un aprovechamiento más lento de sus capacidades, así como la necesidad de invertir en cosas no planificadas. Esa situación, a su vez, podría derivar en pérdida de empleos y en una disminución de la eficiencia operativa, así como en un aumento en la carga laboral de los trabajadores.
Según expone Germán Ortiz, un estudio de Deloitte resalta que la aplicación de esta tecnología podría reducir la carga laboral de los trabajadores del sector público en un 30 por ciento, a lo largo de la presente década; sin embargo, de ocurrir la pausa, esta previsión podría verse afectada.
Ahora bien, también Ortiz hace énfasis en que debido a la brecha tecnológica que existe entre las regiones subdesarrolladas y las de mayor desarrollo económico, el impacto que la pausa a la IA generaría para Latinoamérica sería de menor escala; si bien, no estamos exentos de sus repercusiones, precisó.
De no continuar un proceso de innovación y desarrollo que permita la adopción de nuevas tecnologías, los países más afectados no sólo serían aquellos donde existe una mayor implementación de la IA, sino que también se verían lesionadas naciones en las que la brecha es más evidente, como Guatemala u Honduras, donde sólo el 51 por ciento y un 48 por ciento de la población, respectivamente, tienen acceso a internet.
Otros efectos generales que podríamos considerar a nivel mundial, aunque con afectaciones importantes para nuestra región, en caso de producirse una pausa, son la reducción del crecimiento económico y del acceso a la atención médica. Esta tecnología hace posible mejorar la asistencia médica en los países en desarrollo, pues puede ser utilizada para optimizar el diagnóstico de enfermedades, crear nuevos tratamientos y permitir una atención más personalizada.
Finalmente, Germán Ortiz apuntó que tomando todo esto en cuenta, es posible decir que antes de considerar una pausa basada en preocupaciones que, por ahora, son más teóricas que realistas, las empresas deben asegurarse de integrar la IA a sus procesos de forma sólida, ética y responsable, reconociendo tanto las ventajas que ofrece como sus limitaciones, concluyó.