La Cumbre Mundial AI for Good 2024 se celebró los días 30 y 31 de mayo en Ginebra y reunió a un grupo de más de 2.500 participantes en representación de unos 145 países.
En sus palabras de apertura, La Secretaria General Doreen Bogdan-Martin de la Unión Internacional de Telecomunicaciones (UIT), que organizó el evento, marcó la pauta al explicar la necesidad de inclusión en el desarrollo de la IA.
Dijo: “En 2024, un tercio de la humanidad seguirá desconectada, excluida de la revolución de la IA y sin voz. Esta brecha digital y tecnológica ya no es aceptable”.
La cumbre mostró ejemplos de aplicaciones beneficiosas de IA que pueden llevar los beneficios de la tecnología a la periferia, como Biónicauna iniciativa liderada por Pakistán que diseña extremidades artificiales asequibles, y IA por ultrasonidoun esfuerzo liderado por mujeres con sede en EE. UU. para mejorar la atención prenatal.
AI For Good también exploró cómo la IA puede ayudar a alcanzar los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas, que establecen planes amplios y de largo alcance para hacer crecer y modernizar las naciones menos desarrolladas y al mismo tiempo aliviar la pobreza, el cambio climático y otros factores existenciales y de nivel macro. problemas.
Entre los muchos ejemplos dados, Melike Yetken Krilla, directora de organizaciones internacionales de Google, analizó varios proyectos en los que los datos de Google y la inteligencia artificial se utilizan para rastrear el progreso hacia los ODS, mapearlo en todo el mundo y colaborar con la Organización Meteorológica Mundial (OMM). ) para crear un centro de inundaciones para sistemas de alerta temprana.
Estos contribuyen a una gran cantidad de proyectos que realmente muestran cómo la IA puede acelerar el diagnóstico de enfermedadesayuda desarrollar nuevos medicamentos, proporcionar movilidad a aquellos que lo perdieron debido a una lesión, una enfermedad y mucho más.
La IA también está ayudando a los conservacionistas a proteger el medio ambiente, desde el Amazonas selva tropical a Frailecillos frente a las costas británicas y salmón en vías navegables nórdicas.
Según el sentimiento de la Cumbre, el potencial positivo de la IA es realmente sustancial.
Pero como siempre, hay otra mitad de la historia.
El tira y afloja de la IA
En lugar de tráfico unidireccional, la IA tienta a romper y acelerar las brechas digitales, lo que significa que sus patrones de beneficios y quién los recibe no son equitativos.
Hay pruebas contundentes de que la IA afianza las divisiones existentes actualmente entre países tecnológicamente más y menos avanzados. Estudios del MIT y la Data Provenance Initiative descubrieron que la mayoría de los conjuntos de datos utilizados para entrenar modelos de IA están fuertemente centrados en Occidente.
Los idiomas y culturas de Asia, África y América del Sur siguen estando principalmente subrepresentados en la tecnología de IA, lo que da como resultado que los modelos no reflejen ni sirvan a estas regiones con precisión.
Además, la tecnología de inteligencia artificial es costosa y difícil de desarrollar, y unas pocas empresas e instituciones selectas sin duda tienen la mayor parte del control.
Los proyectos de IA de código abierto brindan un salvavidas a las empresas de todo el mundo para desarrollar IA soberana y de menor costo, pero aún requieren potencia informática y talento técnico que sigue teniendo una gran demanda en todo el mundo.
Sesgo del modelo de IA
Otra tensión en el tira y afloja entre beneficios y desventajas de la IA es el sesgo. Cuando los modelos de IA se entrenan con datos sesgados, inherentemente adoptan y amplifican esos sesgos.
Esto puede tener consecuencias graves, especialmente en la atención sanitaria, la educación y la aplicación de la ley.
Por ejemplo, los sistemas de inteligencia artificial de atención médica entrenados predominantemente con datos occidentales pueden malinterpretar los síntomas o comportamientos en poblaciones no occidentales, lo que lleva a diagnósticos erróneos y tratamientos ineficaces.
Investigadores de empresas tecnológicas líderes como Anthropic, Google y DeepMind han reconocido estas limitaciones y están buscando activamente soluciones, como antrópicoLa “IA constitucional”.
Como explicó Jack Clark, jefe de políticas de Anthropic: “Estamos tratando de encontrar una manera de desarrollar una constitución que sea desarrollada por un montón de terceros, en lugar de personas que trabajan en un laboratorio en San Francisco”.
Una solución noble y válida, pero ¿cómo se crearía una democracia global eficaz para obtener opiniones de esos terceros?
Explotación laboral
Otro riesgo de aprovechar la IA para siempre son los casos de explotación laboral por parte de etiquetadores y anotadores de datos, cuya tarea es examinar miles de datos y etiquetar diferentes características para que los modelos de IA aprendan.
El costo psicológico para estos trabajadores es enorme, especialmente cuando se les asigna la tarea de etiquetar contenido inquietante o explícito. Este “trabajo fantasma” es crucial para el funcionamiento de los sistemas de IA, pero con frecuencia se pasa por alto en los debates sobre la ética y la sostenibilidad de la IA.
Por ejemplo, ex moderadores de contenido en Nairobi, Kenia, presentó peticiones contra Samauna empresa de servicios de anotación de datos con sede en EE. UU. contratada por OpenAI, alegando “condiciones de explotación” y graves problemas de salud mental resultantes de su trabajo.
Ha habido respuestas a estos desafíos, lo que demuestra cómo se puede erradicar la amenaza de la IA a las poblaciones vulnerables, con una acción colectiva.
Por ejemplo, proyectos como Nanjala Proyecto de derechos digitales kiswahili de Nyabola Su objetivo es contrarrestar la hegemonía digital traduciendo términos clave sobre derechos digitales al kiswahili, mejorando la comprensión entre las comunidades de habla no inglesa en África Oriental.
Similarmente, Te Hiku Media, una organización maorí sin fines de lucrocolaboró con investigadores para entrenar un modelo de reconocimiento de voz adaptado al idioma maorí, lo que demuestra el potencial de los esfuerzos comunitarios para garantizar que la IA beneficie a todos.
Proyectos de base como este podrían resultar eficaces para democratizar la IA, pero es una tarea compleja que requerirá tiempo e inversión para implementarlos de manera efectiva a escala global.
Un acto de equilibrio
Será difícil equilibrar los tira y afloja de los beneficios y desventajas de la IA en los próximos años.
En lugar de representar un nuevo paradigma de desarrollo internacional, las conversaciones sobre la inclusión de la IA quizás se perciban mejor como una continuación de décadas de discurso que investiga los impactos de la tecnología en las sociedades globales.
Sin embargo, lo singular es que los impactos de la IA son a la vez altamente universales y altamente localizados.
Las herramientas de inteligencia artificial a gran escala como ChatGPT pueden proporcionar un “manto” de conocimientos y habilidades enciclopédicos al que miles de millones pueden acceder en todo el mundo.
Mientras tanto, proyectos de menor escala como los descritos anteriormente muestran que, combinados con el ingenio humano, podemos construir tecnología de inteligencia artificial que sirva a las comunidades locales.
Con el tiempo, la principal esperanza es que la IA se vuelva simultáneamente más barata y de más fácil acceso, empoderando a las comunidades para que la utilicen como quieran y, en sus términos, con sus derechos. Por supuesto, eso también podría incluir el rechazo total de la IA.
La IA –tanto los modelos generativos creados por gigantes tecnológicos como los modelos más tradicionales creados por universidades e investigadores– ciertamente puede ofrecer beneficios sociales cuando está bien canalizada.
La cumbre AI For Good encarnó esa esperanza y escepticismo. Las partes interesadas no están ciegas ante los desafíos, pero eso no significa que todavía tengan las respuestas.