GC aiLab: Laboratorio para la gobernanza ética de la IA – Gimnasio Campestre
Docente Gimnasio Campestre
Recibido: 4 de junio de 2025
Aceptado: 7 de junio de 2025
Table of Contents
RESUMEN
Esta investigación tiene como objetivo el diseño e implementación de un laboratorio de gobernanza ética para la inteligencia artificial que permita el desarrollo y fortalecimiento de las competencias de pensamiento crítico de los estudiantes y los docentes del Gimnasio Campestre en aspectos éticos relacionados con el uso de la IA. El propósito del laboratorio es promover la responsabilidad, la conciencia y la sensibilización sobre los desafíos y riesgos asociados a esta tecnología. La investigación se desarrolla en tres fases. La primera: El diseño del prototipo. La segunda: La implementación del laboratorio en el contexto académico. La tercera fase corresponde a la evaluación y documentación del impacto y alcance de la propuesta. Este documento presenta el desarrollo de la primera fase del proyecto de investigación.
Como resultado del desarrollo de la primera fase de la investigación se diseñó el prototipo: GC aiLab. La propuesta se fundamentó en los principios de la Investigación Basada en Diseño (IBD), en el enfoque de aprendizaje colaborativo y en el enfoque de aprendizaje mixto (B-learning). El contenido seleccionado se basó en las recomendaciones sobre la Ética de la Inteligencia Artificial propuestas por la UNESCO, la OCDE, El Marco Ético para la IA de Colombia, La ley IA – ACT 2024 de la Unión Europea y los modelos de gobernanza ética para la IA del sector privado seleccionados.
A partir del análisis de la información se concluye que la propuesta diseñada es viable y eficaz para alcanzar los objetivos planteados. Este laboratorio no solo cumple con los estándares académicos y éticos necesarios, sino que también fomenta una comprensión profunda y práctica de los principios de la gobernanza ética de la IA en la comunidad educativa. Se concluye además que la propuesta ofrece un gran potencial de replicabilidad en otras instituciones educativas lo cual contribuye significativamente en la formación de estudiantes y docentes competentes en el análisis y toma de decisiones en temas relacionados con la IA.
Palabras clave: Inteligencia artificial, Gobernanza, Ética, AI – IA, Principios Éticos IA, laboratorio.
ABSTRACT
This research aims to design and implement an ethical governance laboratory for artificial intelligence that allows the development and strengthening of critical thinking skills of students and teachers at Gimnasio Campestre in ethical aspects related to the use of AI. The laboratory aims to promote responsibility, awareness, and sensitization about the challenges and risks associated with this technology. The investigation is carried out in three phases. The first is the design of the prototype. The second is the implementation of the laboratory in the academic context. The third phase corresponds to the evaluation and documentation of the impact and scope of the proposal. This document presents the development of the first phase of the research project.
As a result of the development of the research’s first phase, the GC aiLab laboratory prototype is designed. The proposal is based on Design-Based Research (IBD) principles and collaborative and mixed learning approaches (B-learning). The selected content is based on the recommendations on the Ethics of Artificial Intelligence proposed by UNESCO, the ethical framework for AI in Colombia, the AI law – ACT 2024 of the European Union, and the ethical governance models for AI in the private sector selected.
Based on the comprehensive analysis, it is evident that the proposed GC aiLab laboratory is viable and effective in achieving the stated objectives and offers practical benefits. This lab not only meets the necessary academic and ethical standards but also fosters a deep and practical understanding of the principles of AI ethical governance in the educational community. Furthermore, the proposal’s potential for replicability in other educational institutions is evidence of its practicality, contributing significantly to training young people proficient in analysis and decision-making on AI-related topics.
Key Words: Artificial Intelligence, Governance, Ethics, AI – IA, Ethical principles AI, Lab
Las prácticas académicas innovadoras son importantes para promover la calidad del aprendizaje específicamente en el desarrollo y fortalecimiento de las competencias de pensamiento crítico en el análisis y toma de decisiones en los temas relacionados con la gobernanza ética de la Inteligencia Artificial (IA).
INTRODUCCIÓN
La presente investigación nace del interés por diseñar e incorporar prácticas académicas innovadoras en el ecosistema educativo del Gimnasio Campestre. Estas prácticas son importantes para promover la calidad del aprendizaje específicamente en el desarrollo y fortalecimiento de las competencias de pensamiento crítico en el análisis y toma de decisiones en los temas relacionados con la gobernanza ética de la Inteligencia Artificial (IA). De tal manera, el proyecto propone el diseño de un laboratorio para la gobernanza ética de la IA en el contexto educativo. El proyecto de investigación genera un espacio de reflexión y de aprendizaje sobre el impacto de la IA en los diferentes aspectos de la vida.
La inteligencia artificial ha transformado la percepción del mundo y el sector educativo no es ajeno a esa transformación. La omnipresencia de esta tecnología plantea preguntas cruciales sobre la relación con el entorno y con la propia vida que deben ser abordadas con información y responsabilidad desde la etapa escolar. Por consiguiente, el diseño y la implementación del laboratorio para la Gobernanza Ética de la IA en el Gimnasio Campestre, se considera de vital importancia para consolidar la formación de la comunidad educativa en torno a temas cruciales relacionados con la IA, especialmente los temas relacionados con los derechos y la dignidad humana.
En tal sentido, se enfatiza que el desarrollo de este proyecto de investigación provee elementos que enriquecen la experiencia de aprendizaje de los estudiantes y docentes del Gimnasio Campestre en la apropiación de las competencias de pensamiento crítico en relación con el análisis y toma de decisiones en aspectos relacionados con la gobernanza ética de la IA.
En concordancia con la información anterior, el presente documento se estructura en diferentes capítulos que evidencian el proceso de planeación y análisis de la propuesta de diseño del laboratorio, objetivos que corresponden a la primera fase de investigación. En el capítulo uno, se aborda la definición del problema a partir del interés de la investigadora y la observación del entorno. A partir de esta observación se plantea la pregunta de investigación y los objetivos que guiarán el proceso.
En el capítulo dos, se expone el marco teórico, el cual incluye información sobre los principios éticos de la IA, una revisión sobre el marco legal y normativo local e internacional de la IA e información sobre modelos de gobernanza ética de la IA.
En el capítulo tres, se encuentra la descripción de los materiales y métodos utilizados para el diseño del prototipo. En el capítulo cuatro, se presentan los resultados. En este capítulo se presenta la propuesta y se describe el proceso del prototipado del laboratorio con la ruta de implementación sugerida. En el capítulo cinco, se encuentra descrito el análisis de los resultados, con base en la primera fase de la investigación.
En el capítulo seis, se presentan las conclusiones y resultados del proceso de investigación con relación a los objetivos propuestos para la primera fase. Al finalizar el documento se encuentran las referencias bibliográficas y los anexos citados en este proyecto de investigación.
Planteamiento del Problema
El sector académico se une al portafolio de la quíntuple hélice como un actor crucial en el proceso de transformación de la sociedad de la información. Un sector que, además tiene un campo potencial para la implementación de sistemas basados en Inteligencia Artificial (IA) con propósitos pedagógicos. Es una realidad indiscutible la puesta en marcha de un plan de integración de herramientas basadas en IA con el fin de transitar hacia nuevos modelos de enseñanza-aprendizaje mediados por tecnología. De esta forma, se alienta al sector académico a ser parte de la innovación tecnológica con el propósito de generar espacios para la reflexión sobre la práctica pedagógica actual y los beneficios de la inclusión de sistemas inteligentes en función de la optimización de procesos educativos que redunden en fin superior, garantizar la formación de ciudadanos responsables en el desarrollo, uso, implementación y adopción de la IA. En este orden de ideas, el presente proyecto de investigación evidencia cómo desde una educación centrada en la ética y en los derechos humanos, se puede contribuir significativamente a un despliegue más responsable y humanizador en el uso de la tecnología.
Conscientes de esta necesidad, se propone la creación de un laboratorio para la gobernanza ética de la IA en el Gimnasio Campestre. Este proyecto tiene como objetivo proporcionar a la comunidad educativa un entorno estructurado y práctico donde puedan aprender y aplicar principios éticos en el desarrollo y uso de tecnologías de IA con.
Pregunta de Investigación
¿De qué manera el laboratorio de gobernanza ética de la inteligencia artificial GC aiLab contribuye en el desarrollo y fortalecimiento de las competencias de pensamiento crítico de los estudiantes y docentes del Gimnasio Campestre en el análisis y la toma de decisiones relacionadas con la gobernanza ética de la IA?
Objetivos de la investigación
Objetivo General
Diseñar e implementar un Laboratorio para la gobernanza Ética de la IA que permita el desarrollo y fortalecimiento de las competencias de pensamiento crítico (análisis y toma de decisiones) en aspectos éticos relacionados con el uso de la IA en el contexto académico del GC.
Objetivos Específicos
Primera Fase de la Investigación
1. Identificar las características para el diseño de un laboratorio para la gobernanza ética de la Inteligencia Artificial en el contexto educativo del Gimnasio Campestre.
2. Diseñar el modelo de laboratorio para la gobernanza ética para la inteligencia artificial basado en el enfoque de Investigación Basada en Diseño (IBD)
Segunda Fase de la Investigación
3. Implementar el laboratorio en el contexto académico de la comunidad educativa del Gimnasio Campestre.
Tercera Fase de Investigación
4. Analizar el alcance y el impacto del laboratorio en el desarrollo y fortalecimiento de las competencias de análisis y toma de decisiones en aspectos relacionados con la ética en el uso de la IA en la comunidad educativa del Gimnasio Campestre.
Contexto
El presente proyecto de investigación se dirige en su primera fase a una muestra de 10 docentes de diferentes áreas y secciones académicas del Gimnasio Campestre y a una muestra de 20 estudiantes seleccionados de los grados décimo y undécimo de bachillerato. En la segunda fase se planea invitar a todos los docentes que voluntariamente deseen participar y a la totalidad de estudiantes de los grados décimo y undécimo. En relación con el índice de crecimiento del impacto, se desarrollarán las siguientes fases con la participación de estudiantes de básica primaria y secundaria y los miembros de la comunidad educativa que por voluntad deseen participar.
MARCO TEÓRICO
Principios Éticos en la IA
De acuerdo con la revisión de literatura sobre las recomendaciones y las guías seleccionadas para este proyecto de investigación, se evidencia que no existe un consenso sobre principios éticos definidos. Sin embargo y tal como lo menciona Sánchez (2022) en el sitio web de Montreal AI Ethics Institute, sin importar como se les nombre en cada una de las diferentes guías o recomendaciones, se pueden categorizar teniendo en cuenta los puntos de acuerdo entre los diferentes documentos guía. En este sentido, se toman en consideración las siguientes definiciones y categorizaciones sobre el tema en cuestión.
Los principios éticos de la IA comprenden las pautas cruciales diseñadas para garantizar que el desarrollo, implementación y adopción de sistemas inteligentes IA se realicen de manera justa, responsable y en pro del beneficio de la sociedad (Bostrom et al., 2014). Este concepto se ha transformado a lo largo de la evolución de la tecnología y enfatiza en el impacto ético y social de las máquinas y sistemas inteligentes. Para Bostrom et al., (2014) uno de los expertos actuales en el campo de la filosofía de la tecnología, los principios abarcan: la beneficencia, el uso de la IA para maximizar los beneficios al ser humano. La no maleficencia, que constituye una garantía para evitar daños a la humanidad. La autonomía, que garantiza el derecho de las personas para tomar decisiones informadas. La justicia, que asegura una distribución equitativa de los beneficios y riesgos.
Como se mencionó anteriormente, estos principios están estrechamente alineados con las recomendaciones éticas de los organismos internacionales, por ejemplo, la UNESCO, describe una lista de principios y valores, que, según el informe: Recomendación sobre la ética de la IA, “deberían ser respetados por todos los actores durante el ciclo de vida de los sistemas de IA” (UNESCO, 2021), entre ellos, se encuentran la transparencia, principio que facilita la comprensión, veeduría y evaluación de los sistemas de IA. La responsabilidad, que exige y garantiza la rendición de cuentas por las acciones y decisiones de la IA y finalmente la privacidad, que protege la información personal de los individuos.
En relación con la idea anterior, el grupo de expertos de alto nivel sobre IA creado por la comisión europea en junio de 2018, presenta el documento Directricez Éticas para una IA Fiable, el cual expone los siguientes principios para garantizar una IA fiable: Respeto de la autonomía humana, prevención del daño, equidad y explicabilidad (European Commission, 2019). Adicionalmente, incluye siete requisitos clave, que se deben asignar al personal humano para garantizar el cumplimiento de los principios, los cuales se listan a continuación:
1. Acción y supervisión humanas.
2. Solidez técnica y seguridad
3. Gestión de la privacidad y de los datos.
4. Transparencia
5. Diversidad, no discriminación y equidad
6. Bienestar social y ambiental
7. Rendición de cuentas.
Por su parte, la OCDE (Organización para la Cooperación y el Desarrollo Económicos) determina los siguientes principios éticos para la IA en su documento: Recommendation of the Council on Artificial Intelligence (2024):
1. Crecimiento inclusivo, desarrollo sostenible y bienestar humano.
2. Respeto por el estado de derecho, los derechos humanos y los valores democráticos, incluida la justicia y la privacidad.
3. Transparencia y explicabilidad.
4. Robustez, seguridad y protección.
5. Responsabilidad.
En términos generales, se observa que, hay una creciente línea de investigación sobre las consecuencias del desarrollo, uso e implementación de los sistemas inteligentes especialmente en la necesidad de regular el desarrollo responsable y beneficioso de la IA para los seres humanos. De la misma forma, hay una creciente preocupación por formar a los ciudadanos en los temas relacionados con la gobernanza ética de la IA, una razón crucial que ratifica el aporte significativo que el laboratorio para la gobernanza ética de la IA propuesto en este proyecto de investigación ofrece no solamente a la comunidad educativa del Gimnasio Campestre sino al sector educativo en general.
Cabe resaltar, la perentoria necesidad de concretar en políticas públicas las recomendaciones de los organismos internacionales, con el fin de asegurar el cumplimiento de los principios éticos y de esta forma mitigar los riesgos asociados a la IA, especialmente aquellos que mitigan el goce de los derechos humanos. En consecuencia, en el siguiente capítulo se expone un panorama local e internacional sobre la regulación que se está implementando sobre políticas definidas para proveer garantías sobre el reconocimiento de las directrices éticas que fundamentan la adopción de la IA.
Marco Legal y Normativo relacionado con la implementación de la IA
La reglamentación de las leyes sobre Inteligencia Artificial se refiere al conjunto de normativas legales establecidas para regular y controlar el uso y desarrollo de sistemas y tecnologías de Inteligencia Artificial. Estas leyes buscan establecer los límites y garantías necesarias para proteger los derechos de las personas y promover un uso ético y responsable de la Inteligencia Artificial en diferentes ámbitos. Como se mencionó en el capítulo anterior, la normatividad es una herramienta poderosa para asegurar el cumplimiento de los principios éticos, por tal razón, el presente proyecto de investigación incentiva el conocimiento de la regulación existente de la misma forma que provee escenarios de aprendizaje para el análisis y reflexión del alcance e impacto de la IA en la sociedad con el propósito de garantizar una IA fiable.
Marco Legal Internacional de IA
De acuerdo con, The International Association of Privacy Professionals (IAPP) organismo internacional que se especializa en temas relacionados con la privacidad de la información, en su informe: Global AI Law and Policy Tracker (IAPP, 2024), un gran porcentaje de países alrededor del mundo están diseñando e implementado leyes y políticas de gobernanza de la IA acorde con las necesidades actuales. El siguiente gráfico evidencia el notable aumento del interés por regular los aspectos relacionados con la IA,
Figura 1. Seguimiento global a las leyes y políticas de la IA.
Nota. Informe tomado de IAAP.org. La selección de color rojo corresponde a los países que han implementado o están en proceso de implementación de políticas relacionadas con la regulación y vigilancia de la IA.
Uno de los grandes referentes legislativos sobre la IA es la recién sancionada Ley IA ACT de marzo 13 de 2024 en la Unión Europea. En el cuerpo del documento se evidencian consideraciones relacionadas tanto con los principios éticos antes descritos como con la necesidad de involucrar al sector educativo como actor primordial garante de la formación de los ciudadanos frente a los temas relacionados. A continuación, se extractan algunos artículos que mencionan de manera directa dichas relaciones.
Figura 2. Relación entre las disposiciones de la Ley IA UE y el ámbito educativo.
Nota. Infografía de elaboración propia basada en la Ley IA ACT 2024 de la Unión Europea.
Como se puede apreciar en la infografía, vincular al sector educativo se estima esencial para garantizar el conocimiento y comprensión profunda sobre este tema tan crucial que demarca un cambio explosivo en las nuevas formas de relacionamiento y adopción de nuevas tecnologías. La ley IA ACT de la unión europea resalta la necesidad de formar a las nuevas generaciones además promueve una preparación académica adecuada y especializada a los futuros profesionales para enfrentar los desafíos y mitigar los riesgos que conllevan el desarrollo y adopción de la IA en la vida cotidiana.
Marco Legal Colombiano relacionado con la reglamentación o recomendación sobre aspectos relacionados con la IA
En Colombia aún no existe una Ley sobre IA reglamentada. Existen unos documentos sobre recomendaciones éticas para el uso de la IA. Este documento esta basado en las recomendaciones hechas por los organismos internacionales como la UNESCO, la OCDE y el BID (Banco Interamericano de Desarrollo). Sin embargo, ha hecho un despliegue significativo por iniciar el camino legislativo y es referente de América Latina frente a la implementación de políticas definidas en cuanto a la regulación de los datos personales. En el siguiente informe de la IAAP (2024) se observa el esfuerzo que ha hecho Colombia en el diseño e implementación de normas realcionadas con la IA y especialmente con la regulación del uso de datos.
Figura. 3. Cuadro de Seguimiento a las leyes y políticas de la IA en Colombia desarrollado por IAPPAI.
| Specific AI governance law or policy | Relevant authorities | Other relevant laws and policies | Wider AI context |
|---|---|---|---|
|
Colombia has various policies addressing AI governance, including the following:
|
|
|
|
Nota: La información se encuentra actualizada hasta febrero de 2024.
Por otro lado, la política de Gobierno digital en Colombia como marco regulatorio tiene como objetivo promover las tecnologías de la información y las comunicaciones (TIC) para mejorar los servicios públicos, la transparencia y la participación pública. En este sentido, y en concordancia con lo expuesto en el marco regulatorio anterior, se retoma la última ley sancionada por la Presidencia de la República la cual se encuentra publicada en la sección de normatividad del sitio web oficial, la cual corresponde a la Política de Gobierno Digital, decreto 767 del 16 de mayo de 2022. Para contextualizar sobre el impacto de la protección a los ciudadanos en temas de gobernanza de datos y la vinculación del alcance con el sistema educativo, se extractan algunos de los objetivos y lineamientos relevantes para el tema en la siguiente infografía:
Figura 4. Objetivos y lineamientos de la Política de Gobierno digital de Colombia.
Nota. Infografía de Elaboración propia basada en el documento de la política digital de Colombia.
Este rastreo de información fortalece el objetivo principal del proyecto, se puede evidenciar que el laboratorio de gobernanza ética para la IA es una estrategia pedagógica innovadora que contribuye en el fortalecimiento de las competencias de pensamiento crítico en el análisis y toma de decisiones relacionadas con la IA.
Con relación a las dos infografías anteriores se puede concluir que en ambos contextos se evidencian condiciones óptimas para estrechar el vincular de la triada: IA, Educación y Gobierno, con el fin de transformar los currículos educativos. Por otro lado, a pesar de la inexistencia de una ley concreta que regule el uso de la IA en Colombia, se evidencia un crecimiento importante en la adopción e implementación de la política digital del país, lo cual genera un ambiente optimista para la implementación de futuras leyes relacionadas con el uso de la IA y que incluyan el sector educativo. Por lo tanto, se evidencia además la necesidad indiscutible de formar a la comunidad educativa en el reconocimiento de la gobernanza ética para el desarrollo, uso e implementación de sistemas inteligentes, con el propósito supremo de asegurar los derechos humanos en la era de la IA.
Modelos de Gobernanza Ética de la IA
La definición sobre el modelo de gobernanza ética de la IA comprende otro concepto que sigue en evolución dada la naturaleza innovadora. Según Torres (2021) quien cita el documento: “Artificial Intelligence diplomacy, Artificial Intelligence governance as a new European Union External Policy Tool”, del parlamento europeo (2021), menciona que el documento indica que “la IA se ha convertido en una herramienta de poder político y diplomacia estatal” además, la IA geopolíticamente genera una alteración interna y externa de la vida de la UE. Por tanto, se hace necesario crear normas jurídicas que regulen el diseño, producción y comercialización de productos IA al igual que regular su uso (Torres, 2021).
El instituto, Carnegie Council For Ethics in International Affairs (2023) define la gobernanza de la IA como, “conjunto de normas, reglamentos, marcos éticos y técnicos y mecanismos similares que guían el desarrollo y despliegue de las tecnologías de inteligencia artificial”, definición que reafirma la necesidad de la creación de normas jurídicas como garantía para el uso responsable del desarrollo e implementación de los sistemas inteligentes en los países. El instituto además propone un marco para la gobernanza de la IA que establece los siguientes cinco aspectos esenciales:
Figura 5. Marco propuesto por el Instituto Carnegie Council para la gobernanza ética de la IA.
Nota. Infografía de elaboración propia basada en el marco propuesto por el Instituto Carnegie Council para la gobernanza ética de la IA.
Para la empresa Telefónica, los temas relacionados con el gobierno de la IA se posicionan como aspectos cruciales en su política interior. La empresa ha desarrollado un marco para la gobernanza de la IA muy centrado en los principios éticos. El modelo propuesto se basa en tres pilares que se han estipulado en la compañía para la gobernanza: Directrices globales, autorregulación y marco normativo. Por tanto, el modelo propuesto por Telefónica (2023) promueve el comportamiento responsable de la compañía y adopta los principios éticos como parte de su misión empresarial. A continuación, se detalla el modelo:
Figura 6. Modelo de Gobernanza para el uso responsable de la IA de la empresa Telefónica.
Nota. Tomado del sitio web oficial. El modelo de telefónica hace especial énfasis en el acompañamiento a través de campañas de sensibilización y formación entre los empleados.
Por otro lado, la empresa IBM, enfatiza en la necesidad de formular modelos de gobernanza para garantizar un estado de cumplimiento, eficiencia y confianza en la implementación de IA. Reafirma además que una de las cualidades de estos modelos de gobernanza, debe ser la vigilancia y supervisión permanente de los sistemas IA (IBM. 2023). Precisa que los modelos de gobernanza pueden variar de acuerdo con las características de la empresa, además las compañías pueden utilizar varios marco y directrices para desarrollar su propio modelo, teniendo en cuenta la complejidad de los sistemas IA y el entorno legislativo en donde opera la compañía. Presenta algunos enfoques generales de gobernanza, los cuales se muestran a continuación:
Figura 7. Enfoques generales de gobernanza basado en la sección niveles de gobernanza de la IBM.
Tomado de: https://www.ibm.com/es-es/tropics/ai-governance
Nota. Infografía de elaboración propia basada en los niveles de gobernanza del sitio web oficial de IBM.
En concordancia con lo anterior, la definición de Gobernanza de la IA para la IBM es crucial dada la característica multisectorial y el crecimiento exponencial de la innovación tecnológica. La compañía enfatiza en las características que debe poseer un modelo de gobernanza de la IA para garantizar la responsabilidad, la transparencia y las consideraciones éticas. Esta definición de gobernanza implica tener estructuras de control y verificación sólidas que incluyan marcos y políticas explícitas para abordar los diferentes retos. La evaluación permanente de los sistemas de IA garantiza el cumplimiento de las normas éticas y las regulaciones legales.
Bremmer et al., (2023) señalan en el portal oficial del Fondo Monetario Internacional, cinco principios básicos para gobernar a la IA de manera eficaz, los cuales son:
Figura 8. Principios de Gobernanza de la IA propuestos por Bremmen et al., (2023) del Fondo Monetario Internacional.
Principios para Gobernar la IA
Bremmen et al., (2023) Fondo Monetario Internacional
El perfil de riesgo-recompensa de la IA es asimétrico; aunque esta tecnología tiene la capacidad de generar enormes beneficios, las autoridades deben establecer sistemas que nos protejan de sus desventajas potencialmente catastróficas.
La gobernanza de la IA ha de ser ágil, adaptativa y permitir la autocorrección, ya que esta tecnología cambia a gran velocidad y es hiperevolutiva y capaz de mejorarse a sí misma.
Para reflejar la naturaleza transfronteriza de la IA, los gobiernos deberían lograr que las empresas suscriban convenios internacionales.
La inclusión de las empresas privadas en la alta diplomacia puede resultar inaudito, pero excluir a quienes tienen tanto control abocaría al fracaso a cualquier estructura de gobernanza incluso antes de ponerla en marcha.
Todos los mecanismos de cumplimiento deberían ser herméticos, con un sistema de adhesión sencillo que fomente la participación y un mecanismo de salida costoso que disuada a quienes se planteen incumplir la normativa.
En la práctica, para determinar qué herramientas son apropiadas para abordar determinados riesgos será necesario elaborar una taxonomía viva y activa de los distintos efectos potenciales de la IA.
Por lo tanto, la gobernanza de la IA debe ser modular, basada en los riesgos y focalizada, en lugar de articularse mediante un régimen universalmente válido.
“La formulación de políticas acertadas será vital, pero para lograr ese objetivo se necesitan instituciones sólidas. Para crear esas instituciones, la comunidad internacional tiene que acordar un marco conceptual que determine el modo en que pensamos sobre la IA”
Nota. Información tomada del sitio web oficial del Fondo Monetario Internacional. Infografía de elaboración propia.
En este punto cabe resaltar que la literatura rastreada permite reflexionar sobre la multidisciplinariedad como una característica vital en el diseño del laboratorio para la gobernanza ética de la IA además de incorporar los principios de gobernanza recomendados por los organismos internacionales como insumo en la selección de los contenidos de aprendizaje. La necesidad de formar ciudadanos en estos aspectos es innegable y resalta el compromiso social y misional de la educación como herramienta transformadora de la sociedad. Consiente de esta misión, el presente proyecto de investigación encauza el camino para que el proceso de formación sea en beneficio de toda la comunidad, y se extrapole en el contexto académico a otras instituciones educativas.
MATERIALES Y MÉTODOS
Materiales
Los materiales utilizados para la primera fase de la investigación comprenden la revisión sistemática de literatura, la selección de fuentes y el diseño del laboratorio. Incluye, además, los aspectos descritos en el diseño del prototipo como, los enfoques pedagógicos, de aprendizaje colaborativo y aprendizaje mixto. Además se incluye en la descripción, los instrumentos previstos para la recolección de la información como lo son: Encuesta inicial, entrevista semi estructurada – percepción, entrevista semiestructurada – checkpoint, Formulario LORI para la evaluación del diseño y la funcionalidad de objetos digitales de innovación pedagógica y las pruebas evaluativas para la comprobación del desarrollo y fortalecimiento de las competencias de pensamiento crítico de análisis y toma de decisiones en aspectos relacionados con la gobernanza ética de la IA.
Métodos
El método seleccionado para conducir este proyecto de investigación es el enfoque mixto dada la naturaleza de los datos recolectados descritos en el mapa de navegación del prototipo. De acuerdo con Sampieri et al, (2008): Los métodos mixtos representan un conjunto de procesos sistemáticos, empíricos y críticos de investigación e implican la recolección y análisis de datos cualitativos y cuantitativos, así como su integración y discusión conjunta, para realizar inferencias producto de toda la información recabada y lograr un mayor entendimiento del fenómeno bajo estudio. En este orden de ideas y atendiendo a la metodología mixta, para la presente investigación se realizó, el planteamiento del problema, la definición de las fases de investigación, del objetivo general y la determinación de los objetivos específicos por fases.
El alcance de este proyecto de investigación es descriptivo, como su nombre lo indica describe fenómenos, situaciones, contextos y sucesos, enfatiza en su naturaleza y su comportamiento. El objetivo final es lograr un análisis de los objetos de estudio con el fin de recoger o medir la información de manera independiente con base en conceptos o variables (Sampieri et al., 2014) de tal manera que el objeto de estudio de esta investigación corresponde a la descripción de las dinámicas que se generan dentro del contexto del laboratorio para la gobernanza ética de la IA diseñado con el propósito de desarrollar y fortalecer las competencias de análisis y toma de decisiones relacionas con la IA, dicho de otra manera, la descripción del proceso de diseño, implementación y evaluación de este.
El desarrollo de este prototipo se fundamenta en la base conceptual del enfoque Investigación basada en diseño [IBD] propuesto por De Benito y Salinas (2016). De acuerdo con los autores, la característica principal del IBD es “responder a problemas detectados en la realidad educativa recurriendo a teorías científicas o modelos disponibles de cara a proponer posibles soluciones a dichos problemas” (p.44). Con este fin se diseñan programas, paquetes didácticos, materiales y estrategias didácticas, que se someten tanto a pruebas como a procesos de validación y, una vez mejorados, se difunden a la realidad escolar (De Benito & Salinas,2016).
Por lo tanto, la IBD es un tipo de investigación orientado hacia la innovación educativa caracterizado además por la introducción de un elemento nuevo para transformar una situación, cualidad que refuerza el interés de la investigadora por diseñar un ambiente de aprendizaje mediado por IA que complemente el proceso enseñanza aprendizaje de los estudiantes y docentes de la comunidad académica del Gimnasio Campestre en torno a gobernanza ética de la IA.
RESULTADOS
Prototipo
El principal resultado de la primera fase de investigación del presente proyecto es el diseño del mapa de navegación que corresponde al desarrollo e implementación del laboratorio para la gobernanza ética de la IA GC aiLab en el Gimnasio Campestre.
La lectura del mapa de navegación evidencia cada una de las etapas del diseño e implementación del laboratorio, además describe con detalle minucioso las conexiones entre cada una de las etapas. Enuncia además los instrumentos de recolección de información, en qué momento de la etapa se implementan, analizan y se almacenan los datos. En la etapa tres, se despliega la información sobre los enfoques pedagógicos seleccionados para el desarrollo de las actividades académicas como lo son: el aprendizaje colaborativo y el aprendizaje mixto. Se presentan además las actividades propuestas para la fase virtual y para la fase presencial con las estrategias pedagógicas y los contenidos disciplinares seleccionados para su desarrollo. En la etapa cuatro se enuncia el proceso de validación del laboratorio y los actores involucrados para realizar el análisis y conclusiones sobre el proceso de validación.
Finalmente, en la etapa cinco, se describen los indicadores de evaluación sobre el diseño, implementación del laboratorio y el desarrollo de competencias de pensamiento crítico en al análisis y toma de decisiones en aspectos relacionados con la gobernanza ética de la IA en el contexto académico del Gimnasio Campestre. En el mapa de navegación se observan las variables que intervienen en cada uno de los procesos de evaluación y la conexión directa con los objetivos general y específicos. El análisis de los resultados de la etapa cinco constituye el insumo para la reflexión y documentación investigativa concluyente de las tres fases del presente proyecto. A continuación, el modelo propuesto.
Análisis de los resultados de la primera fase de la investigación: diseño del prototipo para el laboratorio de gobernanza ética de la IA GC aiLab
La primera fase de la investigación se centró en el diseño del prototipo para el laboratorio de gobernanza ética de la IA, denominado GC aiLab. El principal aporte de la primera fase constituye la comprensión de la ruta de navegación y la concordancia con la revisión sistemática de literatura. Por tanto, el resultado obtenido refiere a una ruta permeada por los principios éticos de la IA, los principios de gobernanza de la IA y la estrategia pedagógica planteada a través de los enfoques de aprendizaje colaborativo y mixto. El análisis de los resultados obtenidos durante esta fase es crucial para comprender los avances logrados y los desafíos planteados antes de proceder a la siguiente etapa.
Como se mencionó anteriormente, dentro de los resultados se resalta la selección de herramientas y contenidos que se incluyen en la estrategia pedagógica de tal modo que se concreta la ruta de aprendizaje, como se muestra a continuación:
| Contenidos Seleccionados Primera fase | Estrategias pedagógicas Primera fase |
|---|---|
|
|
Los resultados obtenidos en esta primera fase indican un progreso significativo hacia la implementación de un laboratorio de gobernanza ética de la IA académico, robusto y funcional con estrategias pedagógicas innovadoras. La primera fase de investigación consolida unas bases sólidas en la configuración de practicad educativas encaminadas a lograr los objetivos propuestos. El prototipo refleja los principios éticos fundamentales y una infraestructura diseñada para promover la colaboración y la innovación ética en la IA. Por lo tanto, se concluye que la implementación de la próxima fase es viable y acorde a los objetivos propuestos.
CONCLUSIONES
La gobernanza ética de lA es un tema de especial interés por la creciente ola de innovaciones tecnológicas que se desarrollan a diario. Por tanto, es indiscutible el diseño y adopción de estrategias pedagógicas que formen a la comunidad educativa en torno a los principios éticos y modelos de gobernanza de la IA. En este sentido, el GC aiLab responde a las necesidades actuales de capacitación en el Gimnasio Campestre.
El diseño del prototipo GC aiLab ofrece una infraestructura colaborativa y funcional adaptable a la evolución de los temas relacionados con la gobernanza ética de la IA. El prototipo desarrollado con base en el enfoque de Investigación Basada en Diseño hereda las propiedades iterativas de mejora continua y evaluación permanente con el fin de evolucionar en una herramienta de alto impacto en la comunidad académica.
El desarrollo del Laboratorio compromete la interdisciplinaridad y transdisciplinariedad de la comunidad educativa. Por tanto, es un valor agregado en el fortalecimiento de las habilidades del pensamiento crítico y pensamiento complejo, propios del modelo educativo del Gimnasio Campestre.
REFERENCIAS
Bostrom, N., & Yudkowsky, E. (2014). The ethics of artificial intelligence. In K. Frankish & W. M. Ramsey (Eds.), The Cambridge Handbook of Artificial Intelligence (pp. 316–334). chapter, Cambridge: Cambridge University Press.
Bostrom, N., (2019). Nick Bostrom on Superintelligence and the Future of AI. https://www.youtube.com/watch?v=clFqS2rMG3g
Bostrom, N. (2023). Nick Bostrom, PhD – The Ethics of Digital Minds: A baffling new frontier, https://www.youtube.com/watch?v=kdXbj_rp9AY
Bremmer et al.,(2023). Pilares Fundamentales Para La Gobernanza De La IA. Fondo Monetario Internacional. https://www.imf.org/es/Publications/fandd/issues/2023/12/POV-building-blocks-for-AI-governance-Bremmer-Suleyman
Carnegie Council (2023). Un marco para la gobernanza internacional de la IA. Iniciativa sobre Inteligencia Artificial e Igualdad. https://es.carnegiecouncil.org/media/article/a-framework-for-the-international-governance-of-ai
De Benito Crosetti, B., & Salinas Ib..ez, J. M. (2016). La Investigación Basada en Diseño en Tecnología Educativa. Revista Interuniversitaria de Investigación En Tecnología Educativa, 0, 44–59. https://doi.org/10.6018/riite2016/260631
European Commission (2019). Ethics guidelines for trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
IBM, (2023). ¿Qué es la gobernanza de la IA?. https://www.ibm.com/es-es/topics/ai-governance
Isfandyari-Moghaddam, A. (2015). The Ethics of Information, by Luciano Floridi: Oxford, UK: Oxford University Press, 2013. xxii + 357 pp. ISBN 9780199641321.The Information Society, 32(1), 74–75. https://doi.org/10.1080/01972243.2016.1107360
MINTIC, (2022) Ministerio de Tecnologías de la Información y las Comunicaciones, Mayo 19 de 2022. Ministerio TIC expide el Decreto 767 del 2022: la actualización Política Colombiana de Gobierno Digital. https://www.mintic.gov.co/portal/inicio/Sala-de-prensa/Noticias/210461:Ministerio-TIC-expide-el-Decreto-767-del-2022-la-actualizacion-Politica-Colombiana-de-Gobierno-Digital
OCDE (2024) Artificial Intelligence: OECD Principles, How governments and other actors can shape a human-centric approach to trustworthy AI. https://www.oecd.org/digital/artificial-intelligence/
Sampieri, R., Collado, C., & Lucio, P. (2008). Metodología de la investigación. In Edición McGraw-Hill. http://www.academia.edu/download/38758233/sampieri-et-almetodologia- de-la-investigacion-4ta-edicion-sampieri-2006_ocr.pdf
Sánchez (2022). MAIEI, Montreal AI Ethics Institute. Principios éticos para una inteligencia artificial antropocéntrica: consensos actuales desde una perspectiva global y regional.
Telefónica (2023). Inteligencia Artificial: innovación, ética y regulación. Políticas Públicas Digitales, Regulación y Competencia. https://www.telefonica.com/es/nosotros/politicas-publicas-y- regulacion/posicionamiento/inteligencia-artificial/
Torres Jarrín, M. (2021). La UE & la gobernanza ética de la inteligencia artificial: Inteligencia artificial & diplomacia. Cuadernos Salmantinos De filosofía, 48, 213–234. https://doi.org/10.36576/summa.144499
UNESCO (2021). Recomendación sobre la ética de la Inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
UNESCO (2023) Missing Links in AI Governance. Link
Villalba, Jorge. (2020). Algor-ética: la ética en la inteligencia artificial. Anales de la Facultad de Ciencias Juridicas y Sociales de la Universidad Nacional de La Plata. 062. 10.24215/25916386e062.