La IA ya está en las PyMEs: seis preguntas antes de delegarle una decisión

En muchas PyMEs la inteligencia artificial ya forma parte del trabajo cotidiano. Se usa para redactar un correo, resumir información, preparar una propuesta comercial, analizar datos, responder consultas de clientes o generar una primera versión de un informe. En poco tiempo, algunas de esas herramientas empiezan a ocupar un lugar más sensible, ya que hoy recomiendan, clasifican, priorizan y proponen decisiones que después una persona toma o valida.

Ese cambio merece atención. Cuando la IA participa en una tarea de bajo impacto, un error puede resolverse con una corrección. Cuando interviene en una decisión sobre un cliente, un candidato, un proveedor, un crédito, una evaluación de desempeño o una operación relevante, el problema cambia de escala, y la empresa necesita saber quién controla el proceso y con qué capacidad real para hacerlo.

Una respuesta frecuente es mantener a una persona dentro del proceso. En la literatura sobre inteligencia artificial se usa la expresión “human in the loop” para describir situaciones en las que una persona interviene en algún punto de un sistema automatizado. La idea parece razonable: la máquina propone y el humano revisa. El problema aparece cuando esa revisión existe solamente en el organigrama o en el procedimiento.

Tener una persona en el circuito no garantiza supervisión

Rebecca Crootof, Margot Kaminski y W. Nicholson Price analizan este problema en el artículo “Humans in the Loop”. Los autores plantean una pregunta sencilla y útil para cualquier organización: ¿qué esperamos concretamente que haga la persona que está dentro del circuito? Si su función no está clara, resulta difícil saber si realmente mejora el sistema o si su presencia cumple apenas con un requisito formal. Una persona puede estar obligada a aprobar cientos de recomendaciones por día, recibir una explicación que no comprende o trabajar con tiempos que vuelven imposible una revisión seria. También puede detectar un problema y carecer de autoridad para detener el proceso. En todos esos casos existe intervención humana, pero su capacidad efectiva de supervisión es limitada.

Para una PyME esto puede ocurrir sin grandes sistemas ni proyectos sofisticados. Pensemos en una empresa que comienza a utilizar IA para ordenar currículums. El sistema presenta una lista de candidatos y una persona de recursos humanos elige entre los primeros resultados. Si esa persona desconoce los criterios utilizados, no puede revisar casos excluidos y trabaja bajo presión de tiempo, su participación agrega una validación humana sin garantizar una evaluación real del resultado.

Seis preguntas para una PyME

Antes de delegarle a una IA una tarea que pueda afectar a personas, dinero, reputación o decisiones relevantes, una PyME puede revisar seis condiciones prácticas:

1. Información. ¿La persona que controla conoce qué hizo la IA, qué información utilizó y cuáles son sus límites?

2. Competencia. ¿Tiene los conocimientos necesarios para detectar un error, una recomendación extraña o una respuesta poco confiable?

3. Tiempo. ¿Dispone de tiempo real para revisar o su intervención se reduce a aceptar rápidamente lo que el sistema propone?

4. Autoridad. ¿Puede modificar, rechazar o detener una decisión cuando encuentra un problema?

5. Trazabilidad. ¿La empresa puede reconstruir después qué información se utilizó, qué recomendó la IA y quién tomó la decisión final?

6. Reparación. Si el proceso perjudica a un cliente, trabajador, candidato o proveedor, ¿existe una forma concreta de revisar el caso, corregirlo y reparar sus efectos?

Estas preguntas convierten una idea general de supervisión en condiciones observables. También ayudan a decidir qué usos de IA requieren más controles. No necesita el mismo nivel de revisión una herramienta que corrige el tono de un correo que un sistema utilizado para seleccionar personas o priorizar clientes.

El riesgo de cargar la responsabilidad sobre quien está más cerca

Hay otro problema que aparece cuando las responsabilidades quedan poco claras. Madeleine Clare Elish lo llamó “moral crumple zone” (zonas de deformación moral). El concepto describe situaciones en las que el operador humano termina absorbiendo la responsabilidad por una falla aunque haya tenido poco control sobre el sistema.

En una empresa puede suceder algo parecido. Un colaborador utiliza una herramienta autorizada, recibe una recomendación y la aplica siguiendo el procedimiento. Si luego aparece un daño, resulta fácil señalar a la última persona que intervino. Esa explicación puede dejar fuera a quienes eligieron la herramienta, definieron su uso, configuraron el proceso, establecieron los controles o decidieron que determinada tarea podía automatizarse.

La responsabilidad necesita acompañar la capacidad de decisión. Por eso conviene mirar el proceso completo. La IA forma parte de una configuración donde intervienen proveedores tecnológicos, directivos, responsables de área, usuarios y personas afectadas por sus resultados. En una PyME los roles pueden concentrarse en pocas personas, pero las preguntas siguen siendo las mismas: quién define el objetivo, quién puede cambiar el sistema, quién conoce sus límites, quién se beneficia con su uso y quién puede corregir un daño.

Gobernar la IA puede empezar con reglas simples

Las guías éticas de la AI elaboradas por el grupo de expertos de la Comisión Europea incluyen la agencia y supervisión humana entre sus requisitos centrales. Su lista de evaluación pregunta quién es la persona con control, en qué momentos puede intervenir, qué mecanismos existen para auditar el sistema y cómo se corrigen los problemas. La lógica es útil también para una PyME que está empezando a incorporar estas herramientas.

Una PyME puede empezar esta gobernanza con reglas simples: qué herramientas están autorizadas, qué información puede cargarse, qué decisiones requieren revisión, quién tiene autoridad para detener un proceso, qué registros se guardan y cómo se atiende un reclamo o un error. A medida que aumenta el impacto de la decisión, también debería aumentar el nivel de control.

La adopción de IA en las empresas seguirá avanzando porque ofrece ventajas concretas en productividad, análisis y capacidad de respuesta. El desafío de gestión aparece cuando esas herramientas comienzan a intervenir en decisiones que antes dependían exclusivamente de personas. En ese punto, una PyME necesita algo más que usuarios entrenados: necesita procesos donde la supervisión humana tenga información, competencia, tiempo, autoridad, trazabilidad y capacidad de reparación.

La pregunta práctica para un dueño o gerente puede ser bastante directa: si mañana una decisión tomada con ayuda de IA genera un problema, ¿podemos explicar qué ocurrió, quién podía intervenir y cómo lo corregimos? Si la respuesta todavía es confusa, hay una parte del proceso que conviene diseñar antes de seguir automatizando.

Alejandro Lang es Lic en Administración y MBA. Consultor y profesor especializado en estrategia, innovación y habilidades de gestión. alejandro.lang@hulknegocios.com

Este contenido es posible gracias al apoyo de nuestros lectores y auspiciantes. Contacto y Publicidad. La Pampa Noticias.