¿Puede una inteligencia artificial ser malvada?

Por: Mtro. Francisco de Villa Soto

Un sistema de IA puede causar un daño grave sin que eso lo convierta en «malvado». La distinción importa, especialmente cuando hablamos de modelos capaces de actuar con creciente autonomía.

En The Concept of Evil (Stanford Encyclopedia of Philosophy, revisión de 2022), Todd Calder analiza dos distinciones: el mal en sentido estricto no equivale a cualquier conducta moralmente incorrecta, y cometer una acción malvada no es lo mismo que poseer un carácter malvado.

Entre las teorías que examina, Calder desarrolla su propia propuesta sobre el carácter. Según ella, basta con tener una propensión habitual a experimentar lo que llama e-desires: deseos de que otra persona sufra un daño significativo para alcanzar un fin indigno.

«Indigno» tiene aquí un sentido preciso: alcanzar ese fin junto con el daño no mejora las cosas respecto de evitar el perjuicio y renunciar al objetivo. La propuesta contempla tanto el conocimiento del daño como el autoengaño que impide reconocerlo.

No hace falta que esos deseos se traduzcan en hechos. Y ahí aparece una objeción que el artículo examina: ¿por qué considerar malvada a una persona por deseos que nunca causaron daño?

Calder también revisa la teoría de Claudia Card, que pone en primer plano a las víctimas y los daños intolerables y previsibles derivados de acciones inexcusables. Son énfasis distintos, y el propio Calder ha propuesto una versión modificada de la teoría de Card.

¿Qué tiene que ver esto con los modelos de frontera, es decir, los sistemas de IA más avanzados?

El artículo no aborda la inteligencia artificial, pero deja una condición clara: para atribuir una acción malvada en sentido estricto es necesario hablar de un agente moralmente responsable. La voluntariedad, la previsión del daño y la ausencia de justificación son parte del análisis.

Un modelo puede producir daños graves sin que ello demuestre que tiene deseos propios, comprensión moral o responsabilidad comparable a la humana. Planificar y ejecutar tareas no equivale, por sí solo, a ser un agente moral.

Mi tesis: no necesitamos demostrar que una IA es «malvada» para exigir responsabilidad a quienes la desarrollan, despliegan y utilizan.

Calder añade que la diferencia entre ser autor de un mal y ser cómplice depende, en parte, de la cercanía al daño o a la víctima. Aplicada con cautela a la IA, esta distinción ayuda a examinar la responsabilidad de quienes diseñan y supervisan estos sistemas.

Causar daño, actuar mal y ser malvado no son lo mismo. Confundirlos puede llevarnos a atribuir a las máquinas intenciones no demostradas y, al mismo tiempo, a diluir la responsabilidad humana.

¿Dónde deberíamos situar el límite de esa responsabilidad cuando los sistemas ganan autonomía?

Lectura: https://plato.stanford.edu/entries/concept-evil/

Shopping Basket

Propiedad Intelectual

ANTERIOR

SIGUIENTE

Asesoría y consultoría

SIGUIENTE

Propiedad Industrial

ANTERIOR

SIGUIENTE

Mercantil

ANTERIOR

SIGUIENTE

Corporativo

ANTERIOR

SIGUIENTE

Amparo

ANTERIOR

SIGUIENTE

Civil

ANTERIOR

SIGUIENTE

Familiar

ANTERIOR

SIGUIENTE

Administrativo

ANTERIOR

SIGUIENTE

Laboral

ANTERIOR

SIGUIENTE

Servicios Migratorios

ANTERIOR

SIGUIENTE

Litigios

ANTERIOR