North Adams busca regular el uso de la inteligencia artificial para proteger los derechos civiles
El Ayuntamiento de North Adams estudia una propuesta que establecería un marco legal para supervisar el uso de la inteligencia artificial (IA) en los servicios públicos, con el objetivo de garantizar la transparencia, evitar la discriminación y proteger los derechos civiles de los residentes.
La iniciativa, presentada por la presidenta del Concejo Municipal, Ashley Shade, fue analizada esta semana por el Comité de Gobierno General. La propuesta plantea la creación de un nuevo capítulo en el código municipal titulado "Salvaguardas para la Inteligencia Artificial, Equidad y Justicia", que serviría como base para futuras políticas sobre el uso de esta tecnología.
Según Shade, el proyecto no busca frenar el avance de la IA, sino asegurar que su implementación en el gobierno local se realice de forma responsable. Explicó que trabajó durante más de un año en el borrador, tomando como referencia distintas regulaciones adoptadas en otras comunidades, aunque señaló que no encontró una ordenanza similar ni en Massachusetts ni en el resto del país.
Uno de los aspectos centrales de la propuesta es la clasificación de las herramientas de inteligencia artificial en dos categorías: de bajo riesgo y de alto riesgo.
Las aplicaciones consideradas de bajo riesgo incluyen funciones administrativas como transcripción automática, corrección ortográfica o herramientas de productividad que no influyen en decisiones que afecten a los ciudadanos.
En cambio, se considerarían de alto riesgo aquellas que puedan influir en:
El acceso de una persona a servicios públicos o beneficios.
Decisiones laborales, como contrataciones, evaluaciones o despidos.
La aplicación de leyes y reglamentos.
La vigilancia, monitoreo o seguimiento de personas.
Procesos que puedan generar discriminación o impactos desiguales.
Shade explicó que cualquier sistema de IA utilizado por la policía, la seguridad pública, las escuelas o incluso algunos servicios de la biblioteca sería clasificado automáticamente como de alto riesgo debido a su impacto potencial sobre la población.
La propuesta también contempla la creación de un registro público en línea donde los ciudadanos puedan consultar qué herramientas de inteligencia artificial utiliza el gobierno municipal. Además, plantea designar un oficial de cumplimiento en inteligencia artificial, quien supervisaría que estas tecnologías se empleen conforme a las políticas establecidas, y recomienda formar un comité asesor especializado.
El borrador aún deberá someterse a nuevas revisiones y recibir comentarios de otros comités, incluida la Comisión de Inclusión, Diversidad, Equidad y Acceso (IDEA), que trabaja en desarrollar criterios para evaluar el impacto de la inteligencia artificial sobre los derechos civiles. Antes de una posible aprobación, el texto continuará siendo modificado a partir de las observaciones recibidas durante el proceso legislativo.
