Yonatan Zunger, vicepresidente adjunto y CISO de Microsoft, ha dedicado su carrera a considerar cuestiones complejas de seguridad y privacidad mientras creaba infraestructura y soluciones de plataforma. Su experiencia respalda sus consejos para crear un plan de seguridad al trabajar con IA. Su consejo, sobre todo, es tener un plan escrito.
«En su organización, espere que la gente cree planes de seguridad y los tenga para todo», dice Zunger. «La gente se entusiasma tanto con ser claro que acaban haciendo planes mucho más sistemáticos y exhaustivos, y el número de errores se reduce drásticamente».
Se quitan las llaves
Aquí hay preguntas e ideas a considerar al desarrollar un plan de seguridad para sus sistemas de IA:
- Definir el problema. ¿Qué problema estás tratando de resolver? Una declaración simple y clara del problema es siempre un excelente punto de partida antes de construir cualquier cosa, incluido un agente de IA.
- Describe la solución. ¿Cuál es la base de su decisión? ¿Puede explicar su solución al usuario final? ¿Qué necesita saber el desarrollador o usuario administrativo de su solución sobre quién es y qué hace?
- Enumere las cosas que pueden salir mal. ¿Qué puede salir mal con tu solución? Hacer esta lista es el primer paso para descubrir cómo resolver estos problemas.
- Documente su plan. ¿Cuál es su plan para abordar los problemas identificados? Establece un proceso que seguirás cuando algo salga mal.
- Haga un plan con anticipación y actualícelo a medida que la solución madure. Su plan de seguridad puede ser tan simple como una lista o un esquema y debe evolucionar a medida que se prepara para crear una solución.
- Obtenga comentarios y compre. Cuando revisa el plan con las partes interesadas y los líderes de su equipo y organización, puede descubrir riesgos o problemas en los que no había pensado. También genera conciencia y acuerdo sobre qué hacer cuando algo sale mal.
- Crea una plantilla y agrégala a tus procesos. Este consejo es para cualquiera que lidere un equipo o influya en el desarrollo de procesos. Fomente el uso de un patrón de seguridad en todos sus proyectos para aportar claridad y estructura a su trabajo con IA.
Pruébalo
Aprenda cómo proteger la IA del agente.
Enlaces relacionados
¡Nos encantaría saber de usted!
