Mientras Google posiciona su IA generativa mejorada como maestro, asistente y gurú de las recomendaciones, la compañía también está tratando de convertir sus modelos en el peor enemigo de los malos actores.
“Está claro que la IA ya está ayudando a las personas“, dijo James Manyika, vicepresidente senior de investigación, tecnología y sociedad de Google, ante la multitud en la conferencia Google I/O 2024 de la compañía. “Sin embargo, como ocurre con cualquier tecnología emergente, todavía existen riesgos y surgirán nuevas preguntas a medida que la IA avance y evolucionen sus usos”.
Luego, Manyika anunció la última evolución del equipo rojo de la compañía, un proceso de prueba estándar de la industria para encontrar vulnerabilidades en la IA generativa.
El nuevo “equipo rojo asistido por IA” de Google entrena a múltiples agentes de IA para que compitan entre sí para encontrar amenazas potenciales.
Estos modelos entrenados pueden entonces identificar con mayor precisión lo que Google llama “incitaciones adversas” y limitar los resultados problemáticos.Velocidad de la luz triturable¿Quieres más historias sobre tecnología, espacio y ciencia fuera de este mundo?
VEA TAMBIÉN: GOOGLE INYECTA AÚN MÁS IA EN GOOGLE DOCS Y OTRAS APLICACIONES DE WORKSPACE
El proceso es el nuevo plan de la compañía para construir una IA más responsable y humana, pero también se vende como una forma de abordar las crecientes preocupaciones sobre la seguridad cibernética y la desinformación.
Las nuevas medidas de seguridad incorporan comentarios de un equipo de expertos en tecnología, academia y sociedad civil, explicó Google, así como sus siete principios de desarrollo de IA: ser socialmente beneficioso, evitar prejuicios, construir y probar para la seguridad, responsabilidad humana y privacidad. diseño, defensa de la excelencia científica y accesibilidad pública.
A través de estos nuevos esfuerzos de prueba y compromisos en toda la industria, Google intenta poner el producto donde están sus palabras.
Síguenos en Instagram, Facebook, Twitter.
¡Qué sería del mundo sin #ellas!
