Las opiniones expresadas por los contribuyentes empresariales son propias.
La IA, aunque establecida como una disciplina en la informática durante varias décadas, se convirtió en una palabra de moda en 2022 con la aparición de IA generativa. A pesar de la madurez de la IA en sí misma como disciplina científica, los modelos de lenguaje grande son profundamente inmaduros.
Los empresarios, especialmente aquellos sin antecedentes técnicos, están ansiosos por utilizar LLM y IA generativos como facilitadores de sus esfuerzos comerciales. Si bien es razonable aprovechar los avances tecnológicos para mejorar el rendimiento de los procesos comerciales, en el caso de la IA, debe hacerse con precaución.
Muchos líderes empresariales de hoy están impulsados por la exageración y la presión externa. Desde los fundadores de inicio que buscan fondos hasta estrategas corporativos que presentan agendas de innovación, el instinto es integrar las herramientas de IA de vanguardia lo más rápido posible. La carrera hacia la integración da a los defectos críticos que se encuentran debajo de la superficie de los sistemas de IA generativos.
RELACIONADO: 3 errores costosos que cometen las empresas cuando usan Gen AI
1. Los modelos de idiomas grandes y los IA generativos tienen mal funcionamiento algorítmico profundo
En términos simples, no tienen una comprensión real de lo que están haciendo, y aunque puede tratar de mantenerlos en el camino, con frecuencia pierden el hilo.
Estos sistemas no piensan. Ellos predicen. Cada oración producida por un LLM se genera a través de una estimación probabilística de token-by-token basada en patrones estadísticos en los datos sobre los que fueron entrenados. No conocen la verdad por la falsedad, la lógica de la falacia o el contexto del ruido. Sus respuestas pueden parecer autorizadas pero ser completamente incorrectas, especialmente cuando operan datos de capacitación familiares.
2. Falta de responsabilidad
El desarrollo incremental del software es un enfoque bien documentado en el que los desarrolladores pueden rastrear a los requisitos y tener un control total sobre el estado actual.
Esto les permite identificar las causas raíz de los errores lógicos y tomar acciones correctivas mientras mantienen la consistencia en todo el sistema. Los LLM se desarrollan incrementalmente, pero no hay idea de qué causó el incremento, cuál fue su último estado o cuál es su estado actual.
La ingeniería de software moderna se basa en la transparencia y la trazabilidad. Cada función, módulo y dependencia es observable y responsable. Cuando algo falla, los registros, las pruebas y la documentación guían al desarrollador a la resolución. Esto no es cierto para la IA generativa.
Los pesos del modelo LLM se ajustan a través de procesos opacos que se asemejan a la optimización de la caja negra. Nadie, ni siquiera los desarrolladores detrás de ellos, puede identificar qué aporte de entrenamiento específico causó que surgiera un nuevo comportamiento. Esto hace imposible la depuración. También significa que estos modelos pueden degradarse de manera impredecible o cambiar en el rendimiento después de los ciclos de reentrenamiento, sin una pista de auditoría disponible.
Para un negocio que depende de la precisión, la previsibilidad y el cumplimiento, esta falta de responsabilidad debería aumentar las banderas rojas. No puede controlar la lógica interna de una LLM. Solo puedes verlo morfo.
Relacionado: una mirada más cercana a los pros y contras de la IA en los negocios
3. Ataques de día cero
Los ataques de día cero son rastreables en el software y los sistemas tradicionales, y los desarrolladores pueden arreglar la vulnerabilidad porque saben lo que construyeron y entienden el mal funcionamiento del procedimiento que fue explotado.
En LLMS, cada día es un día cero, y nadie puede ser consciente de ello, porque no hay idea del estado del sistema.
La seguridad en la informática tradicional supone que las amenazas pueden ser detectadas, diagnosticadas y parcheadas. El vector de ataque puede ser novedoso, pero el marco de respuesta existe. No con IA generativa.
Debido a que no hay una base de código determinista detrás de la mayor parte de su lógica, tampoco hay forma de identificar la causa raíz de un exploit. Solo sabe que hay un problema cuando se vuelve visible en la producción. Y para entonces, el daño reputacional o regulatorio ya se puede hacer.
Teniendo en cuenta estos problemas importantes, los empresarios deben tomar los siguientes pasos de advertencia, que enumeraré aquí:
1. Use AIS generativo en modo Sandbox:
El primer y más importante paso es que los empresarios deben usar AIS generativos en modo Sandbox y nunca integrarlos en sus procesos comerciales.
La integración significa nunca interfactar LLM con sus sistemas internos utilizando sus API.
El término “integración” implica confianza. Confía en que el componente que integre realizará de manera consistente, mantendrá la lógica de su negocio y no corromperá el sistema. Ese nivel de confianza es inapropiado para las herramientas de IA generativas. El uso de API para cablear LLM directamente en bases de datos, operaciones o canales de comunicación no solo es arriesgado, es imprudente. Crea aberturas para fugas de datos, errores funcionales y decisiones automatizadas basadas en contextos malinterpretados.
En cambio, trate a los LLM como motores externos aislados. Úselos en entornos de sandbox donde se puedan evaluar sus salidas antes de que cualquier humano o sistema actúe sobre ellos.
2. Use la supervisión humana:
Como utilidad de sandbox, asigne un supervisor humano para solicitar la máquina, verifique la salida y devuelva las operaciones internas. Debe evitar la interacción de máquina a máquina entre LLM y sus sistemas internos.
La automatización suena eficiente, hasta que no lo sea. Cuando las LLM generan salidas que van directamente a otras máquinas o procesos, crea tuberías ciegas. No hay nadie que diga: “Esto no se ve bien”. Sin supervisión humana, incluso una sola alucinación puede resistir la pérdida financiera, los problemas legales o la información errónea.
El modelo humano en el bucle no es un cuello de botella, es una salvaguardia.
RELACIONADO: Modelos de lenguaje grande con inteligencia artificial: posibilidades ilimitadas, pero proceda con precaución
3. Nunca le dé información a su negocio a los AI generativos, y no asuma que pueden resolver sus problemas comerciales:
Trátelos como máquinas tontas y potencialmente peligrosas. Use expertos humanos como ingenieros de requisitos para definir la arquitectura empresarial y la solución. Luego, use un ingeniero rápido para hacer las preguntas específicas de las máquinas AI sobre la implementación, la función por función, sin revelar el propósito general.
Estas herramientas no son asesores estratégicos. No entienden el dominio comercial, sus objetivos o los matices del espacio de problemas. Lo que generan es la coincidencia lingüística de patrones, no las soluciones basadas en la intención.
La lógica comercial debe ser definida por humanos, basado en el propósito, el contexto y el juicio. Use AI solo como una herramienta para admitir la ejecución, no para diseñar la estrategia o poseer las decisiones. Trate la IA como una calculadora de secuencias de comandos, útil en partes, pero nunca a cargo.
En conclusión, la IA generativa aún no está lista para una integración profunda en la infraestructura comercial. Sus modelos son inmaduros, su comportamiento opaco y sus riesgos poco conocidos. Los empresarios deben rechazar la exageración y adoptar una postura defensiva. El costo del mal uso no es solo la ineficiencia, es la irreversibilidad.
La IA, aunque establecida como una disciplina en la informática durante varias décadas, se convirtió en una palabra de moda en 2022 con la aparición de IA generativa. A pesar de la madurez de la IA en sí misma como disciplina científica, los modelos de lenguaje grande son profundamente inmaduros.
Los empresarios, especialmente aquellos sin antecedentes técnicos, están ansiosos por utilizar LLM y IA generativos como facilitadores de sus esfuerzos comerciales. Si bien es razonable aprovechar los avances tecnológicos para mejorar el rendimiento de los procesos comerciales, en el caso de la IA, debe hacerse con precaución.
Muchos líderes empresariales de hoy están impulsados por la exageración y la presión externa. Desde los fundadores de inicio que buscan fondos hasta estrategas corporativos que presentan agendas de innovación, el instinto es integrar las herramientas de IA de vanguardia lo más rápido posible. La carrera hacia la integración da a los defectos críticos que se encuentran debajo de la superficie de los sistemas de IA generativos.
El resto de este artículo está bloqueado.
Únete al emprendedor+ + hoy para el acceso.
