Al et défis mondiaux : développement éthique et déploiement responsable
CCIT / CAST | Cadre MEDICI de la CE | ICT Watch - Indonésie | Institut de gestion de Jaipuria Noida | Projet Kamusi International | Activisme virtuel | L'Université de Loughborough
Session 199
L’émergence de l’IA dans les pays du Sud est une question urgente qui n’a pas encore obtenu le consentement ou la participation de la grande majorité de la population. Les partisans de la technologie de l’IA ont la scène et les ressources nécessaires pour aller de l’avant avec peu de restrictions. Cependant, la plupart des gens restent sans voix face aux évolutions qui affectent leur vie et leurs moyens de subsistance.
Reconnaissant qu'une discussion lors d'un panel de haut niveau lors d'un sommet du SMSI est très éloignée des contributions et des expériences de la plupart des gens qui risquent d'être affectés par les implications de technologies dans lesquelles ils n'ont pas voix au chapitre, le panel cherche néanmoins à promulguer une considération par ceux qui occupent des positions de pouvoir et d’influence autour de ces questions thématiques urgentes :
- Dans quelle mesure la poursuite de l’IA est-elle une approche correcte ou nécessaire pour atteindre les ODD dans les pays du Sud ?
- Qui contrôle la poursuite de l’IA et dans quelle mesure est-elle motivée par l’altruisme ou la quête du pouvoir ou du profit ?
- Dans quelle mesure l’IA est-elle une imposition des valeurs et des normes des sociétés à l’avant-garde de son développement ?
- Comment ces technologies peuvent-elles être orientées vers le bénéfice des personnes qui n’ont aucun contrôle sur elles et qui ne peuvent pas s’y retirer ?
- Comment les gens peuvent-ils être protégés contre l’utilisation extractive ou coercitive des technologies d’IA ?
- Existe-t-il des opportunités pour les multiples parties prenantes de piloter l’évolution de l’IA depuis le bas, ou est-elle intrinsèquement déterminée par les personnes qui contrôlent les leviers ?
Personne source (ordre alphabétique) :
- Alfredo M. Ronchi (Cadre EC MEDICI, polimi.it)
- Anuja Shukla (Institut de gestion de Jaipuria Noida, jaipuria.ac.in)
- Donny BU (ICT Watch - Indonésie, ictwatch.id)
- Marlyn Tadros (Activisme virtuel, virtualactivism.org)
- Martin Benjamin (Kamusi Project International, kamusi.org)
- Waley Wang (CCIT/CAST, english.cast.org.cn)
- Nick Hajli (professeur de stratégie numérique à la Loughborough Business School)
Prof. Alfredo Ronchi, Secrétaire Général du cadre CE MEDICI.
Alfredo M. Ronchi est professeur au Politecnico di Milano (Faculté d'ingénierie), expert/conseiller en eServices, chef du JRC S2D2 (Sûreté, Sécurité, Défense, reprise après sinistre et gestion), secrétaire du cadre EC-MEDICI. de coopération, délégué à l'UNESCO IFAP et membre actif du SMSI depuis sa création (2003-/).
M. Ronchi est membre des conseils d'administration suivants : membre du conseil d'administration d'AI&Society (Springer Nature), conseil d'administration du Global Forum (France), membre émérite du conseil d'administration du World Summit Award (Autriche), conseil d'administration de l'European Education New Society Association (ENSA). France). Membre du Keio University NoE (Japon). Membre du Conseil consultatif de la Faculté de droit sous l'égide de l'Université GD Goenka (New Delhi, Inde).
Il a coopéré en tant qu'organisateur ou président de programme aux conférences W3C, ACM, IEEE et ITU-WSIS ; depuis plus de trente-cinq ans, il organise et gère des projets, conférences et ateliers internationaux. Il est l'auteur/contributeur de plus de 400 articles et de divers livres sur la culture électronique, le gouvernement électronique, la sûreté et la sécurité électroniques et les services électroniques.
Anuja Shukla travaille comme professeure agrégée au Jaipuria Institute of Management, Noida. Elle possède plus de 12 ans d’expérience en enseignement avec plus de 24 publications papier. Ses articles de recherche ont été publiés dans des revues réputées, telles que l'International Journal of Information Management, Psychology and Marketing, Journal of Research in Interactive Marketing, VISION et FIIB. Elle a également remporté le prix du meilleur article de recherche chez FMS, Symbiosis et Amity. Ses domaines d'intérêt de recherche comprennent l'eWOM, le comportement du consommateur, le m-Commerce, l'AR/VR et les technologies émergentes.
https://www.linkedin.com/in/donnybu
Donny BU (M.) est co-fondateur d'ICT Watch en 2002, la principale organisation de la société civile (OSC) indonésienne en matière de technologies de l'information et de la communication (TIC) qui a jeté les bases de l'alphabétisation numérique à travers une campagne nationale. Il a reçu une bourse Ashoka en 2012 pour ses activités d'entrepreneur social axées sur la liberté d'expression en ligne et le cyber-activisme. Il est également co-initiateur du Forum indonésien sur la gouvernance de l'Internet (ID-IGF), une plateforme nationale de dialogue multipartite. Il a auparavant enseigné le cyberjournalisme, les médias numériques, le commerce électronique et le développement des technologies de communication dans plusieurs universités réputées de Jakarta. Il a débuté sa carrière en tant que journaliste TIC chez Detikcom en 1999, le média en ligne le plus important d'Indonésie. Il a finalement servi l'entreprise en tant que vice-président (VP) jusqu'à sa démission en 2010. Il voyage beaucoup en Indonésie pour partager ses idées et ses expériences avec divers militants du campus, sociétés civiles et communautés. Il s'est activement engagé dans l'IGF et le Sommet mondial sur la société de l'information (SMSI) tout en occupant jusqu'à présent un mandat de président de Siberkreasi, le Mouvement national indonésien pour l'alphabétisation numérique, et un cabinet d'experts auprès du vice-ministre indonésien de la communication et des technologies de l'information. Il peut être contacté par e-mail à dbu [at] donnybu.id
Professeur d'arts médiatiques et de communication à la Southern New Hampshire University et fondateur et directeur exécutif de Virtual Activism qui traite de l'intersection de la technologie et des droits de l'homme et de la réduction de la fracture numérique. .
Tadros était chercheur affilié au Centre du Moyen-Orient de la Northeastern University et était également chercheur invité dans leur département des femmes. Elle a enseigné les droits de l'homme et les études sur le Moyen-Orient au Département de sciences politiques. En outre, elle a été chercheuse invitée au programme des droits de l'homme de l'Université Harvard.
Formé en tant qu'anthropologue avec une spécialisation en aide internationale en Afrique. Transition vers la linguistique informatique, dirigeant Kamusi pour développer la technologie linguistique en mettant l'accent sur les langues marginalisées et en tant qu'émissaire délégué de l'Académie africaine des langues (Union africaine) pour la technologie linguistique. Activité secondaire en tant que créateur de contenu, en particulier en ce qui concerne les questions d'IA, de technologie linguistique et d'équité linguistique, sur http://youtube.com/@pirateprofessor
Waley Wang est un chercheur avec plus de dix ans d'expérience dans l'ingénierie de l'IA et l'intelligence décisionnelle, et il est aujourd'hui fondateur et président de WengeTech.&D2 Intelligence à l'étranger depuis 2017. Maintenant Wenge Tech. La société est devenue l’une des principales sociétés d’intelligence cognitive et décisionnelle. Lui et son équipe se consacrent au développement de produits d'IA d'entreprise, notamment de grands modèles linguistiques, des modèles multimodaux et des plateformes d'IA spécifiques à un domaine, pour améliorer l'efficacité et la productivité des opérations, en particulier dans les médias, la finance, la santé et d'autres secteurs. L'entreprise compte environ 800 employés et fournit des produits et services d'IA à des milliers d'utilisateurs gouvernementaux et d'entreprises.
Le professeur Nick Hajli est stratège en IA et professeur de stratégie numérique à la Loughborough Business School. Il a obtenu son doctorat en gestion à Birkbeck, Université de Londres. Avec une présence notable dans les cercles universitaires, Nick possède un portefeuille de 100 publications dans des revues réputées. Ses recherches ont été reconnues dans des publications de premier plan telles que les revues FT50 et ABS 4. Il a reçu des distinctions prestigieuses, notamment la reconnaissance comme l'un des 2 % des meilleurs scientifiques au monde par Stanford et comme auteur hautement cité dans le monde par Elsevier.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C4. Le renforcement des capacités
-
C5. Etablir la confiance et la sécurité dans l'utilisation des TIC
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
La séance se penche sur l'influence omniprésente de l'intelligence artificielle (IA) et des technologies numériques à l'échelle mondiale, en se concentrant explicitement sur les considérations éthiques et la fracture numérique ayant un impact sur les identités culturelles et les structures sociétales. Il souligne que si l’IA a le potentiel de révolutionner divers secteurs, elle présente également des risques importants, notamment des préjugés et des violations de la vie privée, qui peuvent affecter de manière disproportionnée les populations vulnérables. La discussion souligne la nécessité cruciale de lignes directrices éthiques et d’une gouvernance responsable pour atténuer ses impacts négatifs.
En discutant des implications mondiales de l’IA, le débat soulève des inquiétudes quant à l’homogénéisation des contenus distribués via Internet, qui pourrait menacer les identités culturelles. Il critique la prédominance des données provenant des pays occidentaux dans la formation des systèmes d’IA, ce qui pourrait conduire à des résultats reflétant les préjugés occidentaux. Cette préoccupation est liée à des questions plus larges d’équité technologique, dans la mesure où le document aborde également les risques de l’IA dans la perpétuation des structures de pouvoir existantes et son potentiel à exacerber les inégalités entre le Nord et le Sud.
Les multiples parties prenantes des pays du Sud ont contribué activement à façonner le déploiement éthique de l’IA par le biais de politiques et de discussions de groupe. Ces efforts visent à garantir l’alignement d’IA sur les valeurs sociétales et la sauvegarde des droits fondamentaux. Les discussions se concentrent sur divers thèmes, notamment le développement de la jeunesse, la protection de l'enfance, l'engagement sociétal, l'inclusion linguistique et l'autonomisation des femmes, reflétant une approche globale pour comprendre et orienter l'impact de l'IA.
Enfin, le texte rejoint les lignes d'action du Sommet mondial sur la société de l'information (SMSI) en soulignant la nécessité de réduire la fracture numérique et de garantir un accès équitable aux technologies de l'information et de la communication (TIC). Il plaide pour l'intégration des objectifs de développement durable (ODD) dans le cadre du SMSI, en soulignant l'importance de la durabilité, de l'autonomisation des communautés marginalisées et de la participation inclusive à l'économie numérique. La session appelle à une approche équilibrée du développement de l'IA, qui tienne compte à la fois des opportunités et des défis éthiques et qui soit en résonance avec les objectifs du SMSI visant à exploiter le potentiel des TIC pour faire progresser les droits de l'homme, réduire la pauvreté et favoriser des sociétés inclusives.
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 5: Parvenir à l’égalité entre les sexes et autonomiser toutes les femmes et les filles
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
La session aborde plusieurs questions critiques liées à l'influence omniprésente d'Internet et de l'intelligence artificielle (IA) sur la culture mondiale, l'éthique et les normes sociétales, en soulignant particulièrement les conséquences sur les identités culturelles et la sécurité. La discussion met l’accent sur les risques associés à l’IA, tels que les violations potentielles des droits fondamentaux et la difficulté de distinguer le contenu généré par l’homme de celui produit par l’IA. Les dilemmes éthiques entourant l’utilisation de l’IA et ses impacts sociétaux, notamment le remplacement des régulateurs culturels traditionnels par des algorithmes automatisés, sont examinés de manière critique.
En outre, la session mettra également en lumière la gouvernance de l'IA en matière d'autonomisation de groupes spécifiques grâce à l'IA, tels que les jeunes, les enfants, les femmes et la société dans son ensemble, et s'alignera sur plusieurs objectifs de développement durable (ODD). Par exemple, leurs initiatives contribuent à l’ODD 4 (Garantir une éducation de qualité inclusive et équitable et promouvoir les opportunités d’apprentissage tout au long de la vie pour tous), à l’ODD 5 (Parvenir à l’égalité des sexes et autonomiser toutes les femmes et les filles) et à l’ODD 16 (Promouvoir la justice et des sociétés pacifiques et inclusives). ).
Si l’IA offre des avantages considérables, elle présente également des risques importants qui nécessitent une gestion prudente. La session plaide pour une approche équilibrée du développement de l’IA qui prend en compte les dimensions éthiques et promeut l’inclusivité. Cela s’aligne sur les ODD en soulignant la nécessité d’un accès équitable à la technologie, en s’attaquant à la fracture numérique et en garantissant que les progrès de l’IA contribuent positivement au développement durable et autonomisent les communautés marginalisées. Le dialogue autour du technocolonialisme enrichit encore cette discussion, en remettant en question l’imposition des technologies d’IA aux pays du Sud par des forces extérieures, soulignant ainsi la nécessité d’un engagement local et du développement de solutions technologiques contextuellement pertinentes.
La session discutera également de la manière dont l'IA est exploitée dans divers secteurs tels que l'industrie manufacturière, la médecine traditionnelle chinoise et l'éducation pour améliorer la productivité et le développement social. Cette perspective souligne les impacts positifs de l’IA, tels que l’amélioration de l’efficacité opérationnelle et l’aide aux processus décisionnels. Cependant, il reconnaît également les défis, notamment les préjugés de l’IA, les problèmes de confidentialité et les risques de sécurité, qui affectent particulièrement les populations vulnérables telles que les femmes et les enfants.