Con la emisión de la orden ejecutiva 30 del gobernador Younkin sobre inteligencia artificial (IA) y la posterior publicación de la Norma de política de utilización de inteligencia artificial de la Mancomunidad de Virginia y la Norma de inteligencia artificial, las agencias sujetas a los requisitos establecidos en estos documentos han planteado numerosas preguntas sobre su cumplimiento.
Estas preguntas frecuentes abordan el proceso de Registro y aprobación de inteligencia artificial y proporcionan orientación sobre las tecnologías de inteligencia artificial que deben registrarse, así como precauciones y recomendaciones a considerar en relación con el uso de la inteligencia artificial.
Visite la página de Inteligencia artificial de VITA para obtener más detalles.
Preguntas frecuentes sobre inteligencia artificial (FAQ)
Todas las agencias, incluida la rama ejecutiva, la educación superior y las agencias independientes deben consultar la lista de para obtener asistencia.
Puede enviar preguntas adicionales a: vccc@vita.virginia.gov.
Para preguntas técnicas sobre tecnologías específicas de inteligencia artificial, por favor, comuníquese con su EA asignado.
Según la Norma de política de utilización de inteligencia artificial por de la Mancomunidad de Virginia, todas las agencias del poder ejecutivo (según se define según se define ese término en la orden ejecutiva 30) deben registrar su uso de sistemas de inteligencia artificial internos y externos para su supervisión y aprobación, a fin de garantizar un uso confiable, seguro y protegido de dichos sistemas.
El registro y aprobación de inteligencia artificial es un proceso de múltiples pasos que requiere el registro en Archer y aprobaciones en Planview por parte de VITA, el director de su agencia y su secretario (solo para IA externa). Si tiene preguntas sobre cómo registrar su tecnología de IA en Archer, comuníquese con su EA asignado. Si tiene preguntas sobre Planview, comuníquese con su analista de ITIMD asignado.
Aunque no hay una exención en la orden ejecutiva 30 para los usos ya existentes de IA, no es necesario que todos los usos se registren en el registro. Cuando tenga dudas, consulte con su EA asignado.
- Si la solución de inteligencia artificial cumple con todos los tres criterios siguientes, no se requiere registro:
- Orientado internamente
- No utiliza datos personales
- No incorporado en un sistema de producción (ejemplos de sistemas no productivos incluyen entornos sandbox, desarrollo y prueba que utilizan únicamente datos sintéticos o de acceso público).
- Si la solución de IA cumple alguna de las siguientes condiciones, es necesario registrarse:
- Orientado hacia el exterior
- Emplea datos de personas
- Utilizado en un sistema de producción
- Apoya los procesos esenciales de la misión de la agencia o críticos para el negocio
- Incluye datos confidenciales tal y como se definen en el estándar de seguridad de la información SEC530
- Requiere revisión para la evaluación de los servicios en la nube
Cualquier uso de la inteligencia artificial, incluso aquel que involucre productos gratuitos y de amplia difusión, debe obtener aprobación a través del proceso especificado en los estándares. Sin aprobación oficial, ningún producto de inteligencia artificial debe ser implementado por un funcionario de una agencia estatal, incluyendo la descarga de productos gratuitos en dispositivos de TI del Estado o el uso de tales productos para fines oficiales.
Tal como lo disponen tanto la orden ejecutiva 30 como las normas de inteligencia artificial, el proceso de aprobación está diseñado para garantizar que las agencias de la Mancomunidad utilicen la inteligencia artificial de manera que proteja los datos de los ciudadanos, evite aplicaciones sesgadas y sea racional desde una perspectiva empresarial. Los productos disponibles gratuitamente, al igual que los productos de IA que adquiere una agencia, conllevan el riesgo de un uso indebido. Por ejemplo, la cobertura reciente de noticias ha sugerido que ciertos productos de IA gratuitos a veces generan resultados sesgados que pueden entrar en conflicto con los estándares establecidos en la Orden Ejecutiva 30.
Las políticas y normas de IA (incluido el registro de IA) no se aplican a:
- Inteligencia artificial utilizada en sistemas de defensa o seguridad de la Mancomunidad de Virginia (por ejemplo, ciberseguridad, sistemas HVAC o SCADA).
- IA integrada en productos comerciales comunes (ejemplos: un iWatch, un iPhone, un software de escritorio comercial como Adobe Photoshop o una aplicación de software gestionado como servicio en la que la Commonwealth no es propietaria de la aplicación de software ni de los datos que se utilizan)
- Actividades de investigación y desarrollo (I&D) de IA o programas de instrucción en instituciones públicas de educación superior
Las actividades de investigación y desarrollo (I+D) de inteligencia artificial o los programas de instrucción en instituciones públicas de educación superior están exentos de la política y los estándares de inteligencia artificial y no necesitan ser gestionados en el registro de inteligencia artificial. Por ejemplo:
- Investigación asistida por inteligencia artificial en la que la IA colabora en la realización de una tarea dentro de un proyecto de investigación.
- Investigación asistida por inteligencia artificial en el análisis de un conjunto de conocimientos.
- Análisis asistido por IA de datos de investigación
- Investigación sobre métodos, algoritmos y tecnologías de IA
- Inteligencia artificial empleada en el aula, donde los estudiantes aplican inteligencia artificial generativa en sus proyectos.
- IA utilizada en el aula donde los instructores evalúan y evalúan las tareas de los estudiantes
VITA recomienda que el uso de inteligencia artificial con fines de investigación sea regulado por el programa de la Junta de Revisión Institucional (IRB) de cada institución para la supervisión de la investigación. Esto garantizará que los sujetos humanos sean tratados de manera ética y responsable, y que se implementen las protecciones necesarias para salvaguardar su bienestar y privacidad, incluidos sus datos.
VITA recomienda que el uso de la inteligencia artificial en los programas de instrucción sea supervisado por el Departamento de Educación de Virginia para las instituciones K-12 y por el Consejo Estatal de Educación Superior para las instituciones de educación superior.
Aunque las actividades de investigación y desarrollo (I+D) de inteligencia artificial o los programas de instrucción en instituciones públicas de educación superior están exentos de la política y los estándares de inteligencia artificial, las actividades administrativas institucionales que involucran datos de la Mancomunidad (incluidos los datos de estudiantes y financieros) no están exentas. Por ejemplo:
- Inteligencia artificial empleada en el proceso de admisiones estudiantiles.
- La IA se utiliza para conceder becas, subvenciones y otras formas de ayuda financiera
- Uso de inteligencia artificial para el reclutamiento, selección y gestión del rendimiento del personal.
- La IA se utiliza para gestionar las funciones empresariales de la institución, incluidos los procesos financieros, de adquisiciones, inmobiliarios, de instalaciones y de tecnología de la información
- Inteligencia artificial utilizada para acceder a datos sensibles de la institución, incluidos aquellos regulados por HIPAA, FERPA y el IRS.
COV Ramp y el proceso de registro y aprobación de inteligencia artificial atienden necesidades relacionadas pero distintas.
- El registro y la aprobación de inteligencia artificial abordan la intención de utilizar una tecnología de inteligencia artificial específica para un propósito determinado y demuestran el cumplimiento de los requisitos establecidos en la política de uso.
- COV Ramp establece la viabilidad operativa del proveedor y la capacidad de la Mancomunidad para realizar negocios con él.
Además, la presentación a COV Ramp genera un cargo para la agencia. Al completar primero el proceso de registro y aprobación de inteligencia artificial, es posible evitar un cargo innecesario en caso de que VITA o la secretaría rechacen el uso propuesto.
El propósito del registro de inteligencia artificial es garantizar total transparencia respecto a su uso. Esto es según la Norma de política de utilización de inteligencia artificial de la Mancomunidad de Virginia (sección IV, descargos de responsabilidad obligatorios), que establece varios criterios que deben observarse.
El registro de inteligencia artificial está sujeto a la Ley de Libertad de Información (FOIA). Sin embargo, existen exenciones de ciberseguridad vigentes, que se aplicarán si es apropiado. Consulte Va. Código § 2.2-3705.2(2) & (14). Las disposiciones generales de la FOIA prevén situaciones en las que será necesario redactar y/o extraer información de una base de datos. Véase, por ejemplo, Va. Código §§ 2.2-3704(G) y 2.2-3704.01.
Si las agencias ingresan información en el registro que consideran sensible o confidencial, deben identificar claramente dicha información para facilitar la revisión posterior de qué información debe hacerse pública.
El fin del Plan de trabajo de tecnología de inteligencia artificial de la Mancomunidad de Virginia es identificar soluciones de inteligencia artificial que han sido revisadas para su uso y áreas en las que una agencia podría querer investigar. Si una solución de inteligencia artificial específica no está incluida en el plan de desarrollo, una agencia puede presentarla al proceso de aprobación de registro y supervisión de inteligencia artificial.
Todos los usos propuestos de la tecnología de inteligencia artificial deben ser considerados para el registro, según las directrices mencionadas anteriormente, sin importar si están en la hoja de ruta de la tecnología de inteligencia artificial.
Usos de herramientas de IA generativa que
- Están dirigidos hacia el interior.
- No generan decisiones ni políticas.
- No utilice datos de la Mancomunidad ni datos personales
- No se utilizan en la ejecución de los procesos fundamentales de la agencia.
- no incorporados a un sistema de producción
No requieren registro de inteligencia artificial.
Una agencia que emplee datos personales en cualquier solución de inteligencia artificial debe poder explicar cómo se utilizan y protegen esos datos.
- DetallE los elementos de datos específicos que se incluirán, una justificación para su uso y una declaración del valor de lo que se producirá.
- Explique cómo se asegurará el conjunto de datos e identificar a las personas o roles que tendrán acceso a los datos.
- Explique el funcionamiento del algoritmo de inteligencia artificial en el conjunto de datos y cómo se genera el resultado.
- Identifique cómo se anonimizará adecuadamente cualquier salida.
No deberán utilizarse en el desarrollo y/o entrenamiento de modelos de inteligencia artificial.
Cuando los ciudadanos llevan grabadoras de inteligencia artificial a las reuniones, ya sean públicas o privadas, se les permite grabar siempre que no interrumpan. Virginia es una jurisdicción de consentimiento unipersonal (Va. Código § 19.2-62), lo que significa que, mientras un participante en una conversación consienta en que se grabe la comunicación, no es ilegal registrar la conversación. Además, la FOIA u otras leyes pueden otorgar el derecho a grabar reuniones que están abiertas al público. Consulte a su asesor legal si tiene preguntas sobre estos asuntos.
Debe anticipar que los productos en todo el panorama de tecnología de la información evolucionarán para incorporar capacidades de inteligencia artificial de alguna manera, lo que probablemente incluirá soluciones de software que su agencia ya tiene implementadas.
- Las agencias deben estar atentas a los cambios en los productos de su cartera que impliquen la incorporación de componentes o capacidades de inteligencia artificial.
- Las agencias deben ser cautelosas con las afirmaciones de los proveedores que exageran o desinforman sobre el uso de inteligencia artificial en un producto o servicio para atraer a los clientes, una práctica conocida como lavado de inteligencia artificial
Con respecto a la inteligencia artificial integrada en productos comerciales comunes, nuestro interés en registrar la tecnología debe centrarse en si la inteligencia artificial a) realiza alteraciones en los datos ingresados o b) toma decisiones externas.
La mera existencia de la inteligencia artificial dentro de un producto es insuficiente para el registro; solo nos interesa el registro cuando el componente de inteligencia artificial se utiliza para producir un producto final. Un ejemplo sería Archer, que cuenta con un módulo de inteligencia artificial, pero la Mancomunidad de Virginia no lo utiliza y no puede ser activado de manera independiente por un usuario final.
Cualquier solución de inteligencia artificial desarrollada por la Mancomunidad debe poder demostrar permiso para utilizar los conjuntos de datos en cuestión, incluidos aquellos de fuentes disponibles públicamente, y debe poder enumerar esas fuentes para explicar el funcionamiento de la solución. Todos los conjuntos de datos utilizados con soluciones de inteligencia artificial deben ser documentados en la herramienta de Arquitectura Empresarial de la Mancomunidad. Consulte a su asesor legal o a la Oficina del Fiscal General sobre preocupaciones de propiedad intelectual u otros requisitos de permiso de uso.
Una persona debe inspeccionar el producto generado antes de insertarlo en una rama, y la solución debe ser probada antes de su lanzamiento a producción. Una persona debe inspeccionar el producto generado antes de insertarlo en una rama, y la solución debe ser probada antes de su lanzamiento a producción.