El Súper Malvado Problema de la Disrupción del Mercado Impulsada por la IA

Uno de los tipos de desafíos más complejos que enfrentan las empresas y la sociedad son los llamados problemas “súper malvados.” Son problemas que muchas veces tienen múltiples causas, no hay consenso sobre cómo solucionarlos y los intentos de solución pueden empeorar aún más los problemas. Un problema tremendamente malvado al que se enfrentan las empresas actualmente es la disrupción generalizada de los mercados y las formas de hacer negocios causada por la IA. Después de brindar una descripción general de los problemas súper malvados y discutir la “IA de la bruja buena” y la “IA de la bruja mala”, este artículo sugiere que la IA de la bruja mala podría verse como un problema súper malvado y establece un marco que podría usarse para abordarlo.

Problemas Malvados

Los problemas se pueden clasificar según su dificultad para resolverlos. Algunos problemas tienen soluciones que son bien conocidas y se pueden solucionar con diferentes tipos de recursos. Esto no significa que los problemas sean fáciles de resolver porque los recursos necesarios pueden ser muy difíciles de obtener, pero en muchos casos se comprende la naturaleza del problema y, en general, existe un amplio acuerdo sobre cómo resolverlo. Por ejemplo, si bien la escasez de viviendas no es fácil de resolver, la solución a menudo implica construir más casas, lo que se puede lograr con terrenos, construcción y financiamiento.

Otro tipo de problema es el problema “malvado.” Estos problemas son mucho más difíciles de resolver porque sus causas pueden no estar claras y no hay un consenso claro sobre cómo resolverlos o incluso si deberían resolverse en absoluto. Los problemas perversos tienen las siguientes características:

La verdadera profundidad del problema no se comprende bien hasta que la gente intenta resolverlo.
Las soluciones a problemas malvados no son correctas ni incorrectas, sino que representan grados de mejora.
Cada problema complicado es esencialmente único y no existen precedentes listos que puedan usarse como modelos de resolución de problemas. El uso de enfoques de solución preexistentes a menudo empeora el problema y puede ser una parte importante del mismo.
Toda solución a un problema complicado es una “operación única” en la que no hay oportunidad de aprender mediante pruebas y áreas.
Los problemas malvados no tienen soluciones alternativas.

Problemas Súper Malvados

Si bien estos problemas son bastante difíciles, no son los más difíciles de resolver. Los problemas más difíciles de resolver se conocen como problemas “súper malvados.” Si bien los problemas súper perversos tienen muchos rasgos de los problemas malvados, también tienen varias características adicionales.

El tiempo se acaba. Si los problemas malvados no se resuelven, pueden causar daños importantes, pero en muchos casos, la profundidad de este daño es estática o aumenta a un ritmo manejable. Debido a esto, los problemas malvados a menudo se incluyen en “la forma en que son las cosas” y se tratan como una parte ineludible de un sistema o entorno. En el caso de los problemas súper malvados, si no se aborda el problema, existe un riesgo real de que sus consecuencias negativas aumenten exponencialmente y no puedan revertirse.

No existe un marco aceptado para la toma de decisiones.. Los problemas malvados pueden caer bajo el mandato de toma de decisiones de un país u organismo en particular. Por ejemplo, los problemas malvados en el área de conflicto militar suelen ser en gran medida abordados por los gobiernos. Sin embargo, en el caso de los problemas súper malvados, no existe un consenso claro sobre quién tiene el poder de resolverlos. Esto hace que sea mucho más difícil ponerse de acuerdo sobre una posible solución e implementarla.

Las relaciones con las partes interesadas son problemáticas. Cuando se trata de problemas malvados, las partes interesadas a menudo tienen puntos de vista diferentes sobre cómo se deben resolver los problemas malvados. En el caso de problemas súper malvados, las relaciones entre las partes interesadas pueden ser directamente antagónicas, lo que complica significativamente las posibles soluciones. Las partes interesadas pueden estar más preocupadas por ganar la batalla a los adversarios que por encontrar la mejor solución para todas las partes.

Impacto de las soluciones. En el caso de problemas complicados, los intentos de solución, especialmente con los marcos de resolución de problemas existentes, suelen ser ineficaces. En el caso de problemas súper malvados, las soluciones intentadas pueden empeorarlos o hacer que la naturaleza del problema cambie, lo que requiere un cambio significativo en el enfoque de resolución del problema.

Perspectiva de resolución de problemas. Los intentos de encontrar soluciones a problemas malvados a menudo no consideran plenamente el futuro. En el caso de problemas súper malvados, la gente suele centrarse mucho en el corto plazo, lo que dificulta la implementación de medidas con impacto duradero.

IA de la Bruja Buena

Actualmente, la IA está provocando una enorme perturbación en el mercado. Algunas de las áreas clave de disrupción son:

toma de decisiones basada en datos
automatización de tareas
personalización de la experiencia
la aplicación del Procesamiento del Lenguaje Natural; y
aceleración de productos e innovación.

Desde una perspectiva empresarial, la IA presenta importantes oportunidades y riesgos. Ha reducido el tiempo necesario para realizar muchas tareas de días a segundos, liberando grandes cantidades de tiempo para realizar otras tareas de orden superior.

La IA presenta oportunidades y riesgos.

Además del ahorro de tiempo, ha derribado barreras al conocimiento que históricamente han sido muy difíciles de superar para muchas personas. Se puede acceder instantáneamente al conocimiento sobre todos los temas imaginables. Los legos pueden acceder inmediatamente a áreas especializadas de conocimiento y aplicarlas para resolver problemas complejos.

Uno de los componentes más positivos de la IA es que es un trampolín hacia enfoques aún más sofisticados de generación de ideas y resolución de problemas. La IA puede utilizarla para impulsar la exploración de nuevas fronteras de soluciones basadas en cantidades masivas de datos.

IA de la Bruja Mala

A pesar de sus muchos elementos positivos, la IA también presenta riesgos muy reales y grandes. Algunos de estos riesgos incluyen:

eliminar grandes cantidades de empleos
cometer errores que no se detectan en productos y sistemas críticos
contribuir a la creación de una arquitectura de sistema que tiene vulnerabilidades que son difíciles de detectar para los humanos.
contribuir a la creación de algoritmos de solución que están muy sesgados porque se basan en ciertos tipos de datos en lugar de datos aplicables
convertirse en una herramienta para actividades delictivas o fines nocivos
difundir información falsa, engañosa o que incite al odio; y
quedar integrado en diferentes tipos de sistemas hasta el punto en que es difícil apagarlo por completo.

La IA de la bruja mala podría verse como un problema súper malvado. Consideremos la IA de la bruja mala en el marco de un problema súper malvado.

La IA de la bruja mala puede verse como un problema súper malvado.

El tiempo se acaba. Para empezar, la disrupción del mercado impulsada por la IA no es lineal. El impacto de la IA se está acelerando a un ritmo muy rápido y, a medida que los modelos se entrenan en conjuntos de datos cada vez más grandes y las matemáticas para mejorar las funciones de costos (que esencialmente significan reducir las brechas entre las predicciones y los resultados del modelo) y se vuelven más sofisticadas, es probable que esto se acelere aún más rápido.

No hay un marco de solución aceptado. Si bien se han pedido regulaciones para la tecnología de IA, no existe una autoridad aceptada para determinar cómo se debe regular y hacer cumplir esas regulaciones. Esto exacerba el problema de que, a medida que pasa el tiempo, la disrupción del mercado de la IA aumenta exponencialmente.

Las relaciones con las partes interesadas son problemáticas. Las relaciones con las partes interesadas son problemáticas y estos problemas probablemente aumentarán a medida que la extracción de datos se vuelva más invasiva, se pierdan empleos y las consecuencias negativas de la IA se vuelvan más evidentes.

Soluciones esquivas. Aparte del antagonismo profundo y probablemente creciente de las partes interesadas, las soluciones de IA son difíciles de alcanzar porque la IA puede crear nuevos tipos de problemas que requieren soluciones diferentes. Además, a medida que la IA se vuelve cada vez más integrada en tareas operativas y críticas, dar marcha atrás puede causar daños que superen al menos el riesgo percibido a corto plazo de dejar la tecnología en su lugar.

Las respuestas descuentan el futuro irracionalmente. Las respuestas de la IA, por definición, descuentan el futuro irracionalmente porque el impacto de la IA no se puede pronosticar con precisión. Esto significa que todas las respuestas sólo abordan una parte de lo que rápidamente se convertirá en un desafío mucho mayor.

Un Marco para Abordar la IA de la Bruja Mala

Si bien se analiza cómo las empresas pueden gestionar la tensión entre las oportunidades y los riesgos de la IA, a continuación se presentan varios pasos que las empresas pueden tomar para gestionar la IA de las brujas malas.

Establecer una política integral de IA. Establecer una política integral de IA que distinga claramente entre oportunidades de IA (IA de la bruja buena) y riesgos potenciales (IA de la bruja mala), y describa los pasos inmediatos para responder a eventos adversos relacionados con la IA. Esta política debería evolucionar con nuevos conocimientos y desarrollos de IA. Establezca un proceso de revisión regular, por ejemplo trimestral, para mantener la política alineada con los últimos avances de la IA.

Designe un responsable de riesgos de IA. Designar un responsable de riesgos de IA o un grupo de trabajo dedicado a implementar y actualizar la política y el plan de acción de IA. Asegúrese de que el oficial de riesgos de IA colabore estrechamente con los equipos de ciberseguridad y cumplimiento para garantizar que los riesgos específicos de IA se gestionen de manera integral.

Comunicar la política de IA a todas las partes interesadas.. Comunicar de manera proactiva la política de IA a las partes interesadas internas y externas, garantizando la transparencia sobre cómo se utiliza la IA y las salvaguardas implementadas. Realice sesiones informativas o talleres periódicos para educar a las partes interesadas sobre los riesgos potenciales de la IA y cómo la organización los aborda.

Auditar el modelo de negocio y los sistemas para detectar vulnerabilidades de IA. Realizar una auditoría exhaustiva del modelo de negocio y de todos los sistemas críticos para evaluar posibles vulnerabilidades o impactos adversos que la IA podría introducir. Actualice periódicamente las auditorías para detectar las amenazas emergentes de la IA y garantizar que los planes de contingencia sigan siendo relevantes.

Proteger sistemas y datos críticos. Proteger los sistemas críticos y proteger los datos confidenciales para salvaguardar la integridad, implementando controles de acceso sólidos, monitoreo y protocolos de respaldo. Considere la posibilidad de utilizar soluciones de seguridad de datos específicas de IA que detecten anomalías y posibles intrusiones en tiempo real.

Aplicar el pensamiento de diseño al mapeo del recorrido del cliente. Utilice el pensamiento de diseño para trazar los recorridos de los clientes, centrándose en cómo las interrupciones de la IA podrían alterar la experiencia del cliente e identificando nuevas formas de crear valor durante estos cambios. Revise y perfeccione periódicamente los mapas de recorrido del cliente para adaptarse a los impactos cambiantes de la IA y las expectativas de los clientes.

Puntos Clave del Artículo

Los problemas se pueden clasificar según su dificultad para resolverlos.
Dos categorías de problemas difíciles son los problemas malvados y los problemas súper malvados.
La disrupción del mercado impulsada por la IA puede verse de manera positiva (IA de la bruja buena) o negativa (IA de la bruja mala).
Los riesgos de la IA pueden verse como problemas súper malvados.
Las empresas deberían crear un marco para protegerse contra interrupciones potencialmente dañinas de la IA.

Muy apropiada para este artículo, la imagen fue generada por IA.