Proponen regular el uso de dispositivos digitales e inteligencia artificial en las escuelas santafesinas

El diputado provincial Carlos Del Frade presentó un proyecto en la Cámara de Diputados que establece criterios diferenciados para los niveles inicial, primario y secundario. La iniciativa busca que la utilización de dispositivos e IA tenga finalidad pedagógica y no reemplace procesos de aprendizaje, evaluación y producción intelectual de los estudiantes.

El diputado provincial Carlos del Frade, del Frente Amplio por la Soberanía, presentó un proyecto en la Cámara de Diputados de Santa Fe para establecer criterios de uso de dispositivos digitales personales, herramientas de inteligencia artificial y tecnologías emergentes dentro del sistema educativo provincial.

La iniciativa plantea que la utilización de estos recursos por parte de estudiantes sólo podrá admitirse cuando tenga finalidad pedagógica, de accesibilidad, de salud o de emergencia.

El proyecto define como dispositivos digitales personales a los teléfonos celulares, relojes inteligentes, tabletas, computadoras portátiles y otros dispositivos de uso individual que no sean provistos por la institución educativa.

También establece una definición de inteligencia artificial que comprende a los sistemas capaces de generar, clasificar, recomendar, predecir, asistir, automatizar o producir contenidos, decisiones o respuestas a partir de datos, algoritmos o modelos entrenados.

En cuanto a las tecnologías emergentes, la iniciativa las describe como aquellos desarrollos tecnológicos digitales de rápida incorporación educativa, entre ellos asistentes automatizados, plataformas adaptativas y sistemas generativos.

El proyecto considera además como uso pedagógico aquel que responde a finalidades de enseñanza, aprendizaje, evaluación, accesibilidad, inclusión o acompañamiento de trayectorias, siempre que se encuentre encuadrado por la institución y el personal docente.

La propuesta establece diferentes criterios según el nivel de enseñanza.

En los niveles inicial y primario, no se permitiría el uso de dispositivos digitales personales por parte de niñas y niños durante la jornada escolar, salvo situaciones excepcionales vinculadas con accesibilidad, salud o emergencia, debidamente justificadas y autorizadas por el equipo directivo. La incorporación de tecnologías en este nivel debería responder a criterios pedagógicos restrictivos, con alta mediación docente y baja exposición individual.

Para el nivel secundario, en cambio, se contempla su utilización durante las clases cuando el o la docente lo disponga con fines pedagógicos, dentro de la planificación correspondiente o de proyectos institucionales.

Regulación del uso de inteligencia artificial (IA)

El proyecto establece que la utilización de herramientas de inteligencia artificial y tecnologías emergentes deberá orientarse a fortalecer la enseñanza, la comprensión, la producción, la retroalimentación, la accesibilidad y el acompañamiento de las trayectorias educativas.

A su vez, plantea que estas herramientas no deberían sustituir indebidamente procesos pedagógicos centrales ni debilitar la formación intelectual, crítica, ética y autónoma de los estudiantes.

La iniciativa propone prohibir el uso de IA y tecnologías emergentes cuando reemplacen de manera generalizada e indiscriminada la producción intelectual estudiantil; cuando impidan verificar los procesos reales de comprensión, elaboración y aprendizaje; y cuando vulneren la privacidad, la intimidad o la protección de datos personales.

Además, en caso de que introduzcan sesgos discriminatorios o decisiones automatizadas sin supervisión humana y afecten la integridad académica, la validez de las evaluaciones o la autoría de las producciones. Por su parte, cuando sean utilizadas para hostigar, humillar, manipular o vulnerar derechos de integrantes de la comunidad educativa.

Cuando el uso de IA sea autorizado en actividades escolares o académicas, las instituciones y docentes deberán establecer previamente qué usos estarán permitidos, en qué actividades podrán utilizarse, cuándo deberá declararse su utilización, qué partes deberán ser de elaboración propia y cuáles serán los criterios de evaluación.

También propone prohibiciones para los dispositivos

La iniciativa establece además una serie de prohibiciones generales para todos los niveles y modalidades.

Entre ellas figura la prohibición de captar, grabar, fotografiar, filmar, reproducir o difundir imágenes, audios o videos dentro de los establecimientos sin autorización institucional y sin el consentimiento correspondiente.

También se plantea impedir el uso de dispositivos o tecnologías digitales para hostigamiento, acoso, intimidación, discriminación o afectación de derechos, así como la utilización de herramientas tecnológicas para simular autoría, falsear producciones o vulnerar la integridad de las evaluaciones.

Excepciones por accesibilidad y salud

El proyecto contempla expresamente que las regulaciones no podrán aplicarse en perjuicio de estudiantes que necesiten tecnologías digitales como apoyos de accesibilidad, comunicación, seguimiento de salud, monitoreo médico, traducción, adaptación u otros recursos necesarios para ejercer plenamente el derecho a la educación.

Para estos casos, la reglamentación deberá establecer procedimientos que sean, según la propuesta, “ágiles, razonables y no estigmatizantes”.

La autoridad de aplicación prevista es el Ministerio de Educación de la provincia de Santa Fe.

La mirada de Del Frade sobre la inteligencia artificial

En los fundamentos de su proyecto, Del Frade incorpora reflexiones de la filósofa y teóloga Carmody Grey, quien recientemente rechazó una invitación de Anthropic, la empresa desarrolladora del chatbot Claude, para participar de una colaboración vinculada con las tradiciones de sabiduría y la formación moral de sistemas de inteligencia artificial.

En una entrevista publicada por EL PAÍS, Grey planteó que el debate sobre la IA debería centrarse también en sus efectos sobre las personas y el planeta, y sostuvo que estas tecnologías pueden concentrar poder, difuminar responsabilidades y afectar las relaciones humanas.

A partir de esas consideraciones, Del Frade sostiene en los fundamentos de su iniciativa que resulta necesario discutir especialmente los efectos de estas tecnologías sobre niñas, niños y adolescentes y sus procesos de formación.

“Este proyecto de ley busca salir del atronador canto de sirenas y cuidar la cabeza de las alumnas y los alumnos del sistema educativo provincial. Tiene como antecedente lo recientemente sancionado en la Legislatura de Río Negro”, selañó el legislador.

La propuesta quedó así planteada para su tratamiento en la Legislatura de Santa Fe, con el objetivo de establecer un marco específico para el uso educativo de dispositivos digitales e inteligencia artificial.