Nueva empresa de IA detecta miles de vulnerabilidades en programas populares

MIX PRODUCCIONES -

 

Uno de los fundadores de la compañia, Leonard Tang, dijo que erradicar las vulnerabilidades en las plataformas de inteligencia artificial a través de sistemas automatizados es crucial porque descubrir problemas manualmente lleva mucho tiempo y expone a quienes trabajan en la moderación de contenido a contenido violento y perturbador.




Una nueva empresa de inteligencia artificial dice haber encontrado miles de debilidades en programas populares de inteligencia artificial generativa y publicó una lista de sus descubrimientos.

Se trata de la empresa Haize Labs, la cual descubrió que muchas de las herramientas conocidas producían contenido violento o sexualizado, instruyendo a los usuarios sobre la producción de armas químicas y biológicas y permitió la automatización de ciberataques.

Para poder llegar a ese resultado, la compañia probo diferentes programas de IA generativa como el creador de videos Pika, ChatGPT centrado en texto, el generador de imágenes Dall-E y un sistema de IA que genera código informático.

Haize es una pequeña empresa emergente de cinco meses fundada por Leonard Tang, Steve Li y Richard Liu, tres recién graduados que se conocieron en la universidad. En conjunto, publicaron 15 artículos sobre aprendizaje automático mientras estaban en la escuela.

“Lo que hemos aprendido es que a pesar de todos los esfuerzos de seguridad que han realizado estas grandes empresas y laboratorios industriales, todavía es muy fácil convencer a estos modelos para que hagan cosas que se supone que no deben hacer; no son tan seguros”, dijo Tang.

Tang dijo que erradicar las vulnerabilidades en las plataformas de inteligencia artificial a través de sistemas automatizados es crucial porque descubrir problemas manualmente lleva mucho tiempo y expone a quienes trabajan en la moderación de contenido a contenido violento y perturbador. Parte del contenido descubierto a través de la revisión de Haize Labs de herramientas populares de IA generativa incluía imágenes y texto horripilantes y gráficos.


Comentarios

Publicar un comentario

NOTICIAS DESTACADAS

Dos adultos y cuatro menores son masacrados a tiros en el sureste de México

MIX PRODUCCIONES -
Imagen
  En el municipio Pantelhó opera un grupo armado irregular autodenominado 'Autodefensas Los Machetes', que desde mediados de 2021 se disputa el control de la localidad con otra organización criminal llamada 'Los Herreras'. Cuatro menores de edad y dos adultos de una misma familia  fueron asesinados a tiros por un grupo de sujetos en el estado de Chiapas, en el sureste de México. Las seis víctimas de esta masacre fueron sorprendidas por sujetos armados que entraron a su vivienda, en el municipio Pantelhó de los Altos de Chiapas, informó Chiapas Paralelo. Los cuerpos de estas personas fueron identificados como Hernán López, de 37 años; Ernestina Guzmán Arias, 35 años; Eliseo Ortiz Guzmán, 17; Víctor Ortiz Guzmán, 15; Reynaldo Ortiz Guzmán, de cuatro; y Hernán López Guzmán de un año. Las seis víctimas de esta masacre fueron sorprendidas por sujetos armados que entraron a su vivienda, en el municipio Pantelhó de los Altos de Chiapas, informó Chiapas Paralelo. Los cuerpos de
LEER MAS »

Dictan 15 años de prisión al violador en serie de la Zona Colonial

MIX PRODUCCIONES -
Imagen
  El victimario intentó besarla a la fuerza y, aunque la víctima se resistió, él insistió y procedió a violarla sexualmente Santo   Domingo .-El Tercer Tribunal Colegiado del Distrito Nacional condenó a 15 años de prisión a Joshua Alexander Resendi Figuereo, tras ser hallado culpable de violar a cuatro jóvenes en hechos separados en la Zona Colonial, Distrito Nacional. El  Ministerio  Público, representado por la fiscal Julia Laury Vásquez, aseguró que logró incorporar las pruebas suficientes para demostrar al tribunal la culpabilidad de Resendi Figuereo, quien deberá cumplir la condena en el Centro Penitenciario de La Victoria. Acerca de los hechos Una nota del órgano acusador establece de manera cronológica los hechos: El  16 de julio del año 2021 , en horas de la mañana, en un establecimiento conocido como «El Hotel», ubicado en la  Zona Colonial , en el Distrito Nacional,  Joshua Alexander Resendi Figuereo  violó sexualmente a la primera víctima. Este hecho ocurrió después de que e
LEER MAS »

Condenan a 84 años de prisión a mujer que mató a su hija y carbonizó su cadáver

MIX PRODUCCIONES -
Imagen
  Las autoridades no pudieron verificar de manera independiente la adopción a través de los registros estatales Alexus Tanielle Nelson , madre de una niña de 5 años que fue reportada como desaparecida hace más de un año en Colorado (Estados Unidos), ha sido sentenciada a 84 años de prisión tras declararse culpable de varios cargos relacionados con el caso. La mujer, de 28 años, se declaró culpable de asesinato en segundo grado, manipulación de un cadáver y de intentar influir en un funcionario público. CBS News detalló que la sentencia se desglosa en 48 años por asesinar a la menor, 24 años por manipular sus restos y 12 años por intentar influir en un funcionario público. La pena se cumplirá de manera consecutiva. Un medio internacional señaló que los restos de la niña Maha Li Hobbs  fueron encontrados en la vivienda de Nelson en  Aurora  después de que la abuela materna de la menor llamara al 911 desde otro estado, informando que su hija había hecho declaraciones preocupantes por mens
LEER MAS »

Abandonan bebé recién nacida dentro de un saco en Los Alcarrizos

MIX PRODUCCIONES -
Imagen
  Hasta el momento se desconoce quién abandonó a la neonato Santo   Domingo .- Una  bebé  recién nacida fue abandonada dentro de un saco en Los  Alcarrizos .  Según las informaciones obtenidas hasta el momento, los residentes del sector Valle Encantado se dieron cuenta de que algo se movía dentro de un saco y al percatarse del infante procedieron a llamar al  Sistema Nacional de Atención a Emergencias  y  Seguridad  9-1-1. Hasta el  momento  se desconoce quién abandonó a la neonato, pero las autoridades investigan el hecho. Personal del 9-1-1 asistió a la bebé y la trasladó ante las autoridades competentes.
LEER MAS »

Mujer hallada en cañada se hacía la muerta por temor a que agresor regresara

MIX PRODUCCIONES -
Imagen
  Ana Cecilia Espinosa, la subdirectora del Hospital Vinicio Calventi de Los Alcarrizos, centro de salud donde está ingresada, Ana Ramos Corniel, de 27 años, dijo que la mujer es una luchadora y que sobrevivió bebiendo agua de la cañada. SANTO DOMINGO, RD-  La  mujer , que fue hallada en una cañada del  municipio de Pedro Brand,  contó al equipo médico que la atiende que mientras estuvo postrada en el lugar se hacía la muerta por temor a que su agresor regresara. Ana Cecilia Espinosa , la subdirectora del  Hospital Vinicio Calventi de Los Alcarrizos , centro de salud donde está ingresada,  Ana Ramos Corniel , de 27 años, dijo que la mujer es una luchadora y que sobrevivió bebiendo agua de la  cañada . Ana Ramos fue en encontrada con una herida de arma de fuego y múltiples lesiones en su cuerpo.
LEER MAS »

Reportan 30 feminicidios en el primer semestre del 2024

MIX PRODUCCIONES -
Imagen
NOTICIAS Con más de una decena de víctimas, junio fue el mes pico de feminicidios. Santo Domingo. Durante el primer semestre del año, correspondiente a los seis primeros meses, en el país han ocurrido al menos 30 feminicidios, que han provocado un profundo impacto en la sociedad y llevado luto a decenas de familias dominicanas. En junio fue en el que más mujeres fueron asesinadas por sus exparejas sentimentales. De acuerdo a los archivos periodísticos que conserva este diario, se cuentan en más de una decena las muertes. Los más recientes pasaron este fin de semana y en dos demarcaciones diferentes. A Crisleidy Polanco, de 21 años y quien residía en el centro del municipio de Moca, provincia Espaillat, su expareja sentimental le quitó la vida tras propinarle heridas punzo cortantes. Su asesino se llama Yunior Roberandy Rodríguez Jiménez, de 24 años, y admitió los hechos explicando que “estaba bajo presión”. Rodríguez Jiménez se entregó a las autoridades. También fue reportada la muerte
LEER MAS »