Nueva empresa de IA detecta miles de vulnerabilidades en programas populares
Uno de los fundadores de la compañia, Leonard Tang, dijo que erradicar las vulnerabilidades en las plataformas de inteligencia artificial a través de sistemas automatizados es crucial porque descubrir problemas manualmente lleva mucho tiempo y expone a quienes trabajan en la moderación de contenido a contenido violento y perturbador. Una nueva empresa de inteligencia artificial dice haber encontrado miles de debilidades en programas populares de inteligencia artificial generativa y publicó una lista de sus descubrimientos. Se trata de la empresa Haize Labs , la cual descubrió que muchas de las herramientas conocidas producían contenido violento o sexualizado , instruyendo a los usuarios sobre la producción de armas químicas y biológicas y permitió la automatización de ciberataques . Para poder llegar a ese resultado, la compañia probo diferentes programas de IA generativa como el creador de videos Pika , ChatGPT centrado en texto, el generador de imágenes Dall-E y