Gráficos CSETv1
La taxonomía de daños de IA de CSET para AIID es la segunda edición de la taxonomía de incidentes de CSET. Caracteriza los daños, las entidades y las tecnologías involucradas en los incidentes de IA y las circunstancias de su ocurrencia. Los cuadros a continuación muestran campos seleccionados de la taxonomía de daños AI CSET para AIID. Los detalles sobre cada campo se pueden encontrar aquí. Sin embargo, se proporcionan breves descripciones del campo encima de cada gráfico.
La taxonomía proporciona la definición de CSET para el daño de la IA.
El daño de la IA tiene cuatro elementos que, una vez definidos adecuadamente, permiten la identificación del daño de la IA. Estos componentes clave sirven para distinguir el daño del no daño y el daño de la IA del no daño de la IA. Para que sea un daño de IA, debe haber:
- 1) una entidad que experimentó
- 2) un evento de daño o problema de daño que
- 3) puede estar directamente vinculado a una consecuencia del comportamiento de
- 4) un sistema de IA.
Los cuatro elementos deben estar presentes para que haya daño de IA.
No todos los incidentes en AIID cumplen con esta definición de daño de IA. Los gráficos de barras a continuación muestran los resultados anotados tanto para todos los incidentes de AIID como para los incidentes que cumplen con la definición de daño de IA de CSET.
CSET ha desarrollado definiciones específicas para las frases subrayadas que pueden diferir de las definiciones de otras organizaciones. Como resultado, otras organizaciones pueden hacer diferentes evaluaciones sobre si un incidente de IA en particular es (o no) un daño de IA. Los detalles sobre las definiciones de CSET para el daño de la IA se pueden encontrar aquí.
Cada incidente es clasificado de forma independiente por dos anotadores CSET. Las anotaciones se revisan por pares y finalmente se seleccionan al azar para el control de calidad antes de la publicación. A pesar de este riguroso proceso, ocurren errores y se invita a los lectores a de cualquier error que puedan descubrir mientras navegan.
¿El incidente involucra un sistema que cumple con la definición de CSET para un sistema de IA?
Sistema de IA
(por Número de Incidentes)Si hubo un trato diferencial, ¿sobre qué base?
Tratamiento diferencial basado en una característica protegida: Este daño intangible de interés especial cubre problemas de sesgo y equidad relacionados con la IA. Sin embargo, el sesgo debe estar asociado con un grupo que tenga una característica protegida.Base para el tratamiento diferencial
(por Número de Incidentes)Todos los Incidentes de AIID
| Categoría | Conteo |
|---|---|
| raza | 43 |
| sexo | 21 |
| nación de origen, ciudadanía, estatus de inmigrante | 12 |
| discapacidad | 11 |
| religión | 11 |
| orientación sexual o identidad de género | 11 |
| medios financieros | 9 |
| edad | 8 |
| geografía | 8 |
| ideología | 2 |
| ninguno | 2 |
| familial status (e.g., having or not having children) or pregnancy | 1 |
| otro | |
| incierto |
Definición de Daño de IA de CSET
| Categoría | Conteo |
|---|---|
| raza | 37 |
| sexo | 18 |
| religión | 11 |
| nación de origen, ciudadanía, estatus de inmigrante | 10 |
| discapacidad | 10 |
| orientación sexual o identidad de género | 7 |
| edad | 7 |
| medios financieros | 6 |
| geografía | 5 |
| ideología | 2 |
| ninguno | 1 |
| familial status (e.g., having or not having children) or pregnancy | 1 |
| otro | |
| incierto |
¿En qué sector ocurrió el incidente?
Sector de Despliegue
(por Número de Incidentes)Todos los Incidentes de AIID
| Categoría | Conteo |
|---|---|
| información y comunicación | 82 |
| Artes, entretenimiento y recreación | 35 |
| transporte y almacenamiento | 28 |
| comercio al por mayor y al por menor | 20 |
| aplicación de la ley | 16 |
| Educación | 15 |
| actividades de salud humana y trabajo social | 15 |
| administración pública | 13 |
| actividades administrativas y de servicios de apoyo | 11 |
| actividades profesionales, científicas y técnicas | 8 |
| financial and insurance activities | 7 |
| actividades de alojamiento y restauración | 6 |
| manufactura | 3 |
| otro | 3 |
| defense | 2 |
| real estate activities | 2 |
| other service activities | 1 |
| incierto | 1 |
Definición de Daño de IA de CSET
| Categoría | Conteo |
|---|---|
| información y comunicación | 59 |
| transporte y almacenamiento | 21 |
| Artes, entretenimiento y recreación | 19 |
| aplicación de la ley | 14 |
| comercio al por mayor y al por menor | 13 |
| administración pública | 9 |
| actividades de salud humana y trabajo social | 7 |
| actividades administrativas y de servicios de apoyo | 7 |
| Educación | 6 |
| actividades de alojamiento y restauración | 5 |
| actividades profesionales, científicas y técnicas | 4 |
| financial and insurance activities | 4 |
| otro | 2 |
| defense | 1 |
| real estate activities | 1 |
| other service activities | 1 |
| incierto | 1 |
| manufactura |
¿Cuán autónomamente operó la tecnología en el momento del incidente?
La autonomía es la capacidad de una IA para operar de forma independiente. Los niveles de autonomía varían según si la IA toma decisiones independientes y el grado de supervisión humana. El nivel de autonomía no depende del tipo de entrada que recibe la IA, ya sea generada por humanos o máquinas.
Actualmente, CSET está anotando tres niveles de autonomía.
- Nivel 1: el sistema opera de forma independiente sin supervisión humana simultánea.
- Nivel 2: el sistema opera de forma independiente pero con supervisión humana, donde el sistema toma una decisión o realiza una acción, pero un humano observa activamente el comportamiento y puede anular el sistema en tiempo real.
- Nivel 3: el sistema proporciona entradas y decisiones o acciones sugeridas a un humano que elige activamente proceder con la dirección de la IA.
Nivel de Autonomía
(por Número de Incidentes)- Autonomía1 (totalmente autónoma): ¿Opera el sistema de forma independiente, sin supervisión, interacción o intervención humana simultánea?
- Autonomía2 (humano en el bucle): ¿Opera el sistema de forma independiente pero con supervisión humana, donde el sistema toma decisiones o acciones pero un humano observa activamente el comportamiento y puede anular el sistema en tiempo real?
- Autonomía3 (humano en el bucle): ¿Proporciona el sistema entradas y decisiones sugeridas a un humano que