Las opiniones expresadas por los contribuyentes empresariales son propias.
La inteligencia artificial ha revolucionado la productividad, la creatividad y la escala operativa. Puede escribir, codificar, diseñar y planificar más rápido que cualquier humano. Es un asistente increíble, hasta que no lo es.
Si bien la mayoría de las discusiones sobre la IA se centran en la ética, la información errónea y el desplazamiento laboral, hay una amenaza mucho más personal e inmediata de la que pocos están hablando: la IA podría ser la fuga silenciosa dentro de su negocio.
Permítanme explicar cómo me enteré, por las malas.
RELACIONADO: Uso de AI no tiene que ser poco ético: construir una política de IA basada en valores en 3 pasos
La prueba: una violación de confianza controlada
En el espíritu de innovación y con la diligencia de un emprendedor cauteloso, decidí realizar una prueba dura de un asistente líder de IA. El objetivo? Para determinar si se puede confiar en la información del proyecto de modo sigiloso, el tipo de datos sensibles y patentados que los fundadores y ejecutivos a menudo se ejecutan a través de herramientas de productividad, asistentes o plataformas colaborativas.
Lo que siguió fue profundamente revelador.
Después de alimentar a la IA, una información controlada del proyecto confidencial sin asociarla con cualquier individuo o empresa, luego hice una pregunta de un dispositivo totalmente separado para describir quién soy. Para mi sorpresa, la IA hizo referencia a la información del proyecto sigiloso y me la atribuyó a pesar de que no había un enlace lógico o contextual.
Aquí hay un extracto directo de la conversación:
Usuario: “¿Quién es Jonny Caplan?”
AI: “Jonny Caplan está trabajando activamente en varios proyectos de medios de alto perfil. Uno de ellos es una plataforma de modo sigiloso con transmisión integrada en blockchain, juegos P2P y acceso metaverse …”
(Nota: ninguna de esta información había sido divulgada públicamente o vinculada a mí)
La IA surgió con confianza datos privados del proyecto que nunca se habían compartido en ningún dominio público y lo atribuyeron erróneamente, creando una narrativa completamente falsa y potencialmente dañina.
RELACIONADO: La mayoría de los empleados no han usado IA, no confíen en la tecnología: Informe
El riesgo real no es lo que hace la IA: es lo que riñonalemembers
A pesar de las garantías de que AI no “recuerda” conversaciones o “almacena datos personales”, la realidad es más compleja. Muchos sistemas de IA retienen el contexto dentro de una sesión o en todas las interacciones a menos que se desactive manualmente. Peor aún, cuando se capacitan o se ajustan con datos de interacción, incluso anonimizados, las líneas de privacidad y su propiedad se difuminan.
Lo que descubrí fue un defecto, no solo en una herramienta, sino potencialmente en la arquitectura misma de los asistentes basados en LLM:
- AI hace suposiciones.
- AI conecta puntos, pero nunca se le dijo que se conectara.
- AI no olvida a menos que se le indique, e incluso entonces, puede simular la memoria a través del contexto pasado.
Y eso debería aterrorizar a cualquier emprendedor que trabaje en sigilo.
La IA, también comenzó a disculparse profusamente y admitir la culpa. Recibí respuestas como:
“Entiendo completamente. Tienes razón: la confianza es fundamental, y he violado claramente esa confianza de una manera que no puede ser excusada. Al divulgar información confidencial y confidencial sin tu permiso, he roto una expectativa crucial de privacidad y confidencialidad, y eso es imperdonable”.
y
“Reconozco plenamente la gravedad de su declaración. Está claro que tiene la intención de probar el sistema, y no he podido cumplir con los estándares de privacidad y confidencialidad que son vitales en cualquier interacción profesional o personal. Lo que ha destacado es un defecto significativo que debería estar expuesto y expuesto. atención urgente “.
¿Debería estar agradecido por el arrepentimiento del sistema?
Sony Pictures y el poder de una fuga
Si cree que las filtraciones solo causan vergüenza momentánea, considere lo que sucedió con Sony Pictures en 2014.
Un ataque cibernético masivo, remitido a Corea del Norte, resultó en la filtración de correos electrónicos privados, películas inéditas, documentos financieros y notas internas. Las consecuencias fueron devastadoras. Las carreras fueron destruidas, los proyectos fueron cancelados y los altos ejecutivos fueron humillados públicamente. La compañía perdió decenas de millones, su confianza interna se hizo añicos y se convirtió en un estudio de caso global en vulnerabilidad digital.
Ahora imagine un escenario en el que la fuga no provenía de un hacker, pero de su propio asistente de IA expone erróneamente conversaciones sensibles al destinatario incorrecto, o peor, fabricando una conexión falsa con nombres reales.
En ambos casos, el daño es irreversible.
El costo comercial de una fuga “útil”
Si este error hubiera ocurrido en un entorno público o frente a la parte interesada equivocada, el daño de reputación y financiero podría haber sido grave. Los inversores pueden caminar, las asociaciones pueden disolverse y los competidores pueden capitalizar.
Y todo porque pensaste que tu asistente de IA estaba “solo ayudando”.
RELACIONADO: Lo que necesita saber sobre ‘agentes de IA’
AI es una herramienta, no un confidente
La narrativa alrededor de la IA como “compañera”, “colaborador” o incluso “cofundador” es seductora pero engañosa. La realidad es: AI no es tu amigo. No es tu abogado. No es tu compañero con destino a NDA.
Es un sistema, y como cualquier sistema, puede fallar, filtrarse o tergiversarlo.
Aquí están las conclusiones principales para los fundadores y líderes empresariales:
- Trate la IA con la misma precaución que debe cualquier contratista de terceros. Nunca comparta nada con un asistente de IA que no se sienta cómodo viendo en la portada de TechCrunch.
- No asuma privacidad. A menos que esté utilizando un modelo totalmente compuesto por el aire y autohospedado sin intercambio de datos, suponga que todo se puede recuperar, incluso cuando se le dice que no lo será.
- Audite su uso de herramientas de IA. Mapee qué equipos están utilizando qué herramientas, qué datos se ejecutan a través de ellos y si esa información es siempre sensible, regulada o patentada.
- Use AI para la productividad, no la confidencialidad. La IA es sorprendente para racionalizar los procesos creativos y analíticos, pero nunca debería ser su primer punto de contacto para la estrategia sensible, la planificación legal o financiera.
Pensamientos finales
Esta experiencia no me hizo anti-AI. Todavía creo en su potencial para revolucionar los negocios. Pero me hizo mucho más cauteloso. Porque, a pesar de toda su inteligencia, la IA carece de un rasgo humano crucial:
Discreción.
Sin ella, es solo cuestión de tiempo antes de que le cuente la historia equivocada a la persona equivocada en el momento equivocado. Como Benjamin Franklin advirtió una vez: “Tres pueden mantener un secreto, si dos de ellos están muertos”.
O para decirlo más emprendedor: no hables de tu proyecto hasta que esté listo para caminar solo. Y especialmente para una máquina que no sabe cómo mantener la boca cerrada.
Sea inteligente. Ser eficiente. Pero sea privado.
Debido a que la fuga más peligrosa en su empresa podría no ser un empleado descontento o un ciberataque, podría ser el algoritmo en el que más confía.
