Los modelos actuales de inteligencia artificial son simplemente demasiado difíciles de manejar, frágiles y maleables, según muestra la investigación académica y corporativa.
La seguridad fue una idea de último momento en su formación, a medida que los científicos de datos acumularon colecciones de imágenes y texto asombrosamente complejos. Estos son propensos a prejuicios raciales y culturales, y son fáciles de manipular.
El software convencional utiliza un código bien definido para emitir instrucciones explícitas paso a paso. ChatGPT de OpenAI, Bard de Google y otros modelos de lenguaje son diferentes. Entrenados en gran parte mediante la ingestión y clasificación de miles de millones de puntos de datos en rastreos de internet, son trabajos en progreso perpetuos, una perspectiva inquietante dado su potencial transformador para la humanidad.
Un equipo que incluye a investigadores de Carnegie Mellon descubrió que los chatbots líderes son vulnerables a los ataques automatizados que también producen contenido dañino."Es posible que la naturaleza misma de los modelos de aprendizaje profundo haga que tales amenazas sean inevitables", escribieron.
Los investigadores han descubierto que"envenenar" una pequeña colección de imágenes o texto en el vasto mar de datos utilizados para entrenar los sistemas de inteligencia artificial puede causar estragos y pasar desapercibido fácilmente. Al encuestar a más de 80 organizaciones, los autores encontraron que la gran mayoría no tenía un plan de respuesta para un ataque de envenenamiento de datos o robo de datos. La mayor parte de la industria"ni siquiera sabría que sucedió", escribieron.
Un solicitante de empleo inteligente podría, por ejemplo, averiguar cómo convencer a un sistema de que es el único candidato correcto.
South Africa Latest News, South Africa Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Estos son los horarios de competencia de los mexicanos en los Juegos de San Salvador 2023Estos son los horarios en los que competirán los representantes de México en los Juegos Centroamericanos y del Caribe (JCC) de San Salvador 2023:
Read more »
Con Jaime Lozano, los goles de México están en los pies de los mediocampistasEn selecciones juveniles el ex mediocampista encontró una fórmula para que la cuota goleadora recayera en sus elementos centrales
Read more »
ISSSTE se 'olvida' de los pensionados y ahora los 'ganones' serán los jóvenes😯 El director del ISSSTE lanzó buenas noticias para jóvenes egresados... checa la siguiente información ⬇
Read more »
Los mejores libros de astrología para entender los signos zodiacales, las casas y los planetasEn esta guía te contamos cuáles son los libros que debes leer para introducirte a este mundo estelar.
Read more »
Los hermanos Issa Tafich: los hilos negros de los negocios y el poderArquetipos de empresarios que realizan negocios con el gobierno a partir de sus relaciones de poder, los Issa Tafich obtuvieron apenas en octubre pasado un nuevo permiso, pero ahora para comercializar electricidad en el territorio nacional.
Read more »
Los imitadores: Satanás, la coalición, los aspirantes, exfutbolistas y los chinosOpinionesCompletas | Los imitadores: Satanás, la coalición, los aspirantes, exfutbolistas y los chinos Decidieron imitar a Morena, PT y Verde y nos presentaron un modelo de elección interna que “viola la ley electoral”. Escribe hugoericflores ➡️
Read more »