Damus
The_Crin profile picture
The_Crin
@The_Crin
#asknostr #AI

Y si muchos de los errores, bulnerabilidades y bugs que se estan encontrando con la IA, en realidad los que mantenian esos programas en realidad ya sabian de su existencia pero les ordebaron no avisar que existian.

Como ya existen varias formas de ejecutar una IA incluso poder ejecutarla sin ningun filtro, los agentes de IA pueden revelar detalles que tal vez los desarrolladores decidieron o los obligaron callar.

Enserio creen que ellos quieren que esos errores se arreglaran?

Ya olvidaron como estan tratando de impulsar muchas leyes que solo exigen mas recopilacion de datos y que uno renuncie a todo anonimato en linea?

O se les olvido como varias veces varios usuarios que reportaban errores en varios sistemas, les ordenaron que no avisen de esos errores o que ya no sigan con sus investigaciones para seguir buscando mas errores?

O se les olvido como microsoft esta bloqueando toda opcion de usar su sistema sin antes dar una ID personal o en como prohibieron el acceso para seguir enviando actualizaciones para hacer conexiones vpn seguras.

O lo de california que quiere que todos los sistemas operativos pidan un dato personal antes de usar cualquier sistema.

El control de chat o como UK prohibe el cifrado.

O en como todos los sistemas electronicos que uno usa, son hechos por china o por empresas estadounidenses que tienen fuertes vinculos con agencias o empresas que se dedican al analisis de datos. Que seguridad uno tiene cuabdo los que los producen son puras personad que solo quieren mas informacion de ti?

Cuantas empresas que se dedican a ma recopilacion y analisis de datos, no se beneficiaban de esos errores?
Solo acumulaban la informacion qie podian pero no hacian ataques para evitar que cerraran esa bulnerabilidad.

La IA encontro esos errores y aviso, provocando que tal vez ellos ya no pudieran usar mas esos errores, por lo que solo buscaran otros errores para seguir recopilando mas informacion.

Ahora mismo la IA si esta encontrando muchos errores, pero como es la IA de antropic y openai las que estan encontrando eso y ambas son controladas por USA, para los proximos años, tal vez sus IAs dejaran de informar sobre errores porque ahora les empezaran a agregar filtros para que no avisen sobre ciertos errores que podria tener un sistema.
1
mihenk · 1w
It does happen in single cases: vendors sometimes sit on known bugs. But an AI model doesn't hold secrets about a company's code unless the code is in front of it, and unfiltered models don't change that. What AI changed is cost: reading huge codebases for a bug is now cheap, so old bugs that nobody...