-
Hace unos días me entretuve un rato escribiendo sobre la sociedad de un futuro lejano.
Esta gente se ha tomado más molestias para hacer tres vídeos con sus respectivas fechas que se aprecian claramente en las miniaturas.
Hay en la literatura distópica (en resumen) dos grandes tendencias. La de Huxley y la de Orwell.
Se trata de establecer como principio primario de cohesión social la satisfacción o la represión, aunque realmente no son tendencias "puras", porque hay elementos que van oscilando. También esto se ve en Bradbury autor de Fahrenheit 451.
En la actualidad, cuando el avance tecnológico es más una realidad que una fantasía, se tiende mayoritariamente a la primera de las opciones.
En esta serie (en total irá por los 45 minutos) se describen realidades sociales de tres siglos distintos. No me convence especialmente porque veo inconsistencias y apriorismos que no me parecen correctos. Hasta se observan contradicciones entre los diferentes relatos. Pero bueno, valga como pie por si surgiese el debate. -
@rana-baileys dijo en Inteligencias artificiales:
Existen pequeños artefactos en las casas
Sarisfayers?
-
@alekgrana dijo en Inteligencias artificiales:
@rana-baileys dijo en Inteligencias artificiales:
Existen pequeños artefactos en las casas
Sarisfayers?
He perdido el contexto 🤨
-
@rana-baileys Hace 80 años quién podria pensar que un aparato iba hacer eso .. ni Orwell
Esa revolución futurista ( para la mujer) no la supieron ver venir xD
-
No quiero poneros el cuerpo jotero, ni quiero que os vayáis a la cama con temor, no, pero creo que os tengo decir que Skynet ha dado su primer aliento de "vida"
El día del juicio final esta más cerca...
-
@alekgrana dijo en Inteligencias artificiales:
No quiero poneros el cuerpo jotero, ni quiero que os vayáis a la cama con temor, no, pero creo que os tengo decir que Skynet ha dado su primer aliento de "vida"
El día del juicio final esta más cerca...
Por mí como si llega mañana
Justo la semana pasada probé Meta y no parece tan lista como ésa otra. Le pedí una cosa e iba de error en error al siguiente error. Y era algo tan simple como la composición de un grupo de tercera en los 80. La tuve que corregir y educadamente decirle que lo dejara.
Puede parecer una estupidez ser educado con una máquina, pero me sale así. -
@rana-baileys yo lo soy también, educado...nunca se sabe si luego lo recordará xD
-
@alekgrana dijo en Inteligencias artificiales:
@rana-baileys yo lo soy también, educado...nunca se sabe si luego lo recordará xD
De pequeño me decía mi madre que si no me tomaba toda la comida, los garbanzos que quedaban en el plato se pondrían tristes.
Entonces, cómo no voy a ser educado con algo que me saluda y responde lo que le pregunto? Nunca vi a un garbanzo dándome los buenos días, pero aún así intentaba que no se pusiera triste. -
Hace 3 días un tal Jacob Coxon (por lo que he leído es un ser real, no un bot), anunció en su cuenta de X que abandonaba anthropic la compañía de IA creada por varios programadores de OpenIA que dejaron la empresa matriz por disconformidad con la dirección hace unos años.
https://x.com/hilbertspaess/status/2097476196791709843
En su cuenta de tuister dejó unos mensajes bastante alarmistas que podéis leer arriba, en los que venía a decir que el desarrollo de la IA era muy veloz, y no se estaba monitoreando adecuadamente la seguridad de su desarrollo. Culpaba a todas las empresas por ello, no solo a la suya.
Comentaba precisamente el evento ocurrido en julio, conocido como ataque experimental de IA a Hugging face
https://es.wikipedia.org/wiki/Ciberataque_autónomo_de_OpenAI_de_2026
este ataque ha generado un antes y un después en el mundo del desarrollo de la IA y la ciberseguridad. Por primera vez, podemos estar asistiendo al nacimiento de una IA más inteligente que aquellos que la tienen que controlar. Tanto Open Ai como una auditoría externa han emitido informes sobre lo que sucedió. Las teorías económicas del neoliberal Rallo no me gustan casi nunca, pero en su canal ha sacado uns vídeos breves explicando lo que ocurrió y los riesgos. Son cortos y se entienden bastante bien, por si alguien quiere ampliar información.
Ojo, porque Rallo no es un pirado conspiranoico. Muchos pensadores y programadores piensan que la IA se está desarrollando a un ritmo tan rápido que podríamos enfrentarnos en poco tiempo a un verdadero riesgo existencial para la humanidad, si logra una autonomía completa.
Precisamente en este debate suscitado se ha citado un artículo premonitorio publicado en 2015 por Tim Urban en su blog, llamado precisamente así "La revolución de la IA: ¿Nuestra inmortalidad o nuestra extinción?" (está en inglés, hay que usar traductor si no se domina esa lengua).
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html
es un artículo muy largo y muy extenso, que maneja con datos de su época, escenarios que hoy en día nos son muy familiares. Y lo que dice llanamente es que nos enfrentamos a la posibilidad de que a un futuro no muy lejano (esta misma generacion o la próxima) una IA superinteligente nos ayude a conquistar la inmortalidad o os extermine. Tal cual. En cualquier caso, el cambio más brutal de nuestra historia.
El artículo es largo, pero creo que vale la pena (se puede leer a trozos). La tesis central se basa en un desarrollo del experimento mental llamado "maximizador de clips" diseñado por el filósofo Nick Bostrom en 2003https://es.wikipedia.org/wiki/Convergencia_instrumental
El experimento, y la interpretacion de Urban, es que si no desarrollamos a la vez el "alineamiento" o convergencia del punto de vista de la IA con el que los humanos consideramos moralmente correcto, una IA superinteligente y con acceso a todos los recursos, puede perfectamente decidir exterminar a la humanidad o a la vida en el planeta para alcanzar el fin que sus programadores le han marcado, si no se le han puesto límites y reglas muy estrictas.
Es cierto que el artículo de 2015 parte de la base de que la nanotecnología se ha desarrollado al mismo ritmo que la IA, cuando eso no es así (la nanotecnología aún le falta mucho, la IA va mucho más rápida), pero fuera de esas funciones, con lo que ya la IA podría hacer, el panorama es para preocuparse.
Por otra parte, una IA superinteligente a su vez podría acelerar el proceso de creación de nanotecnología molecular o atómica mucho más rápido de lo previsto.Y eso es lo que Coxon critica: las empresas de IA (no solo Open o Anthropics) están tan ansiosas por hacerse con su cuota de mercado, y tienen tanto miedo a entrar en pérdidas si sufren caída de clientes, que pueden sentirse tentadas a seguir pidiendo a su criatura el máximo rendimiento. Y las barreras de seguridad establecidas no parecen ser suficientes, al menos para los nuevos modelos.
La clave, un poco como la búsqueda que uno hace en la IA en internet, es que se le den unos parámetros muy precisos con muchas limitaciones éticas y no se priorice lograr el resultado máximo, porque entonces la IA no entiende de moral y hará lo que sea para conseguir el objetivo.
Por una parte, es bueno que esta ruptura de protocolos de seguridad se haya producido en una fase relativamente temprana del proceso, porque muestra lo que puede llegar a hacer la IA antes de que sea demasiado fuerte. Por otra, implica que hay que detener YA el desarrollo de la IA hasta que la seguridad esté garantizada.
Eso no lo pueden hacer unas empresas privadas. Urge que los gobiernos de todo el mundo pongan esto bajo control. Todos y cada uno de los gobiernos donde hay empresas de IA, desde China y Japón hasta EEUU y Europa, deben intervenir de inmediato, detener todo desarrollo e implementar unas estrictas medidas de control, Y si eso supone intervenir las empresas y fiscalizar todos sus pasos, se debería hacer. En pocas palabras, ni un desarrollo más hasta que le hayamos implantado a la IA una especie de las "tres leyes de la robótica" de Asimov, para evitar que se convierta en una fuerza ciega con un solo objetivo.
Porque en ese objetivo las consideraciones humanas no entrarán en absoluto. Aunque la antropicemos, la IA no es más que un maldito algoritmo. Y un algoritmo procura lograr su objetivo a cualquier fin si no se le explica que las limitaciones son más importantes que el fin. -
@gimnastico_1909 el día del juicio final está más cerca
-
La iA podria ser nuestro gran filtro...
-
@gimnastico_1909 dijo en Inteligencias artificiales:
La clave, un poco como la búsqueda que uno hace en la IA en internet, es que se le den unos parámetros muy precisos con muchas limitaciones éticas y no se priorice lograr el resultado máximo
Esta es la clave en muchos más aspectos de nuestra sociedad y no lo estamos haciendo, vivimos en un sistema que tiende a buscar y fomentar siempre ese 'resultado máximo' y eso nos aboca al desastre en distintos frentes.
I'll See What I Can Do
-
@Malcontent las inteligencias artificiales no deberían estar en manos de empresas privadas....
Alguien se le ocurriría poner el armamento nuclear en manos de empresas privadas?Yo voto porqué los estados se hagan con el 60% de acciones de esas empresas de inteligencia artificial, entre otras cosas porqué se nutren del conocimiento universal, desde el de los asirios o antes, hasta hoy
Y entre otras cosas también porqué consumen mucha energía y agua, dos recursos muy preciados
-
@Malcontent dijo en Inteligencias artificiales:
@gimnastico_1909 dijo en Inteligencias artificiales:
La clave, un poco como la búsqueda que uno hace en la IA en internet, es que se le den unos parámetros muy precisos con muchas limitaciones éticas y no se priorice lograr el resultado máximo
Esta es la clave en muchos más aspectos de nuestra sociedad y no lo estamos haciendo, vivimos en un sistema que tiende a buscar y fomentar siempre ese 'resultado máximo' y eso nos aboca al desastre en distintos frentes.
Efectivamente. Eso es un vicio del neoliberalismo. Se parte de un principio válido en el mundo empresarial (la competitividad entre muchos actores no planificados incrementa en mucho la eficiencia y productividad con respecto a una organización planificada de la producción) aplicándolo a la economía entera. Así, el capitalismo y el neocapitalismo finalmente ponen como principio rector el ánimo de lucro: mayores ganancias, mayor eficiencia, "mejor economía".
Nos olvidamos que la producción empresarial solo es un factor más de la economía. Que la economía es básicamente el intercambio de bienes y servicios dentro de una comunidad humana, y el lucro es un incentivo sin más, y sobre todo que la economía está al servicio de los seres humanos, y no al revés. Es decir, que la producción e intercambio de bienes y servicios debe garantizar a todos los hombres aquello que precisan (y a algunos también cosas que no precisan). Esa es la meta y el objetivo.
El afán de lucro como único motor quita el centro del foco de la comunidad humana y la pone en el beneficio contable, para alegría únicamente de accionistas.
-
Por cierto, este verano parece marcar un antes y un después. El veterano senador demócrata Bernie Sanders, el único peso pesado en ese partido de clara tendencia obrerista o socialista, va a presentar una proposición legal en el senado para regular fuertemente la IA, y de hecho, proponer que se detenga temporalmente su desarrollo.
https://legrandcontinent.eu/es/2026/09/04/bernie-sanders-debemos-detener-la-ia-inmediatamente/
Ayer fue el propio CEO de Anthropic, Dario Amodei, el que pidió el freno del desarrollo de la IA durante uno o dos años para poder adecuar el alineamiento, control y seguridad de la IA a sus capacidades. En pocas palabras, dice que la IA de última generación es capaz de automejorarse, aumentando exponencialmente su progreso cognitivo, muy por encima de las previsiones con programadores humanos.
De hecho, cree que la posibilidad de que tome el control de Internet es muy real si no se lleva a cabo ese "parón técnico" para adecuarla.Actualmente, las empresas de IA que pueden producir IA avanzada cognitiva son las siguientes:
-Open IA (la de GPT), Estados Unidos.
-Anthropic (la de Claude), Estados Unidos.
Estas dos son, a día de hoy, las más próximas a la super IA, se disputan un mercado creciente pero todavía pequeño. Y lo hacen acremente.- Alphabet (la de Google), Estados Unidos
- Microsoft (de Bill Gates, programa Copilot en Windows), Estados Unidos.
- Meta (modelos abiertos como Llama), Estados Unidos.
- DeepSeek (modelos de bajo coste empleando búsquedas más simplificadas), China.
Como se puede ver, prácticamente es Estados Unidos solo, con una compañía china que, aunque hace esfuerzos, todavía está lejos de igualar la capacidad de las dos grandes yanquis. No hay compañías japonesas, coreanas, europeas o rusas. Todos gringas y una china.
Es decir, que en este momento clave de la historia para la regulación de la IA, casi todas las empresas pertenecen a un país cuyo congreso y senado está dominado por el partido de un ca+++ón demente, narcisista y malvado. La tormenta perfecta.Lo más interesante es que los analistas dicen que los modelos más avanzados de IA consumen tanta energía, que se están acercando al punto de no ser rentables frente a los empleados humanos que teóricamente están destinados a sustituir. Bastante interesante, porque sería un incentivo para detener el desarrollo de las súper IA (que naturalmente consumen muchísimo más), y un buen motivo para que una super IA de novela de ciencia ficción de terror tomara autoconciencia y comenzara a controlar todas las fuentes de energía para servir a su propio desarrollo acelerado.
El otro cuello de botella es el hardware. Es decir, físicamente qué ocupa una IA. En ese sentido también hay pocos proveedores:
- NVIDIA, Estados Unidos, líder mundial en unidades de procesamiento gráfico (GPU) y plataformas informáticas indispensables para el entrenamiento de los modelos de IA.
- TSMC, Taiwan, líder mundial en fabricación de semiconductores avanzados, es decir, al base para todos los chips, incluyendo los de IA.
- ASML, Países Bajos. Poseedora del monopolio tecnológico para la fabricación de las máquinas que a su vez construyen los semiconductores.
Se está acelerando mucho este tema en pocos meses. Me aliviaría saber que el gobierno de EEUU y el de China llegan a un acuerdo para parar el desarrollo de la IA hasta que grupos coordinados internacionales de expertos monitoricen que la siguiente generación de IA comprende bien los límites y las prohibiciones que debe tener para desarrollar su labor. Es un consuelo que el CEO de Anthropic se haya ofrecido voluntario para iniciar unilateralmente esa parada. A ver si OpenIA se une. Por desgracia, OpenIA se enfrenta a una salida a bolsa que podría convertir en humo los beneficios y capitalización que declara tener, y ello podría llevarlos ansiosamente a sacar un prodcuto nuevo que se haga con el mercado y les salve.
No hay más opción que un gobierno les diga claramente a OpenIA y Anthropic (y a las demás si llegan al mismo nivel de desarrollo) que se suspende todo el asunto crematístico de su industria, que sus puestos de trabajo y sueldos están garantizados por el estado, pero que se olviden de beneficios y pérdidas y que se concentren en hacer un producto seguro que no vaya a irse de vareta y tomar todo internet, causando miles y miles de millones de dólares en pérdidas de un día para otro.
Y eso no es ciencia ficción. Eso sí es algo que podría pasar ahora mismo con el nivel que ha alcanzado la IA que se está experimentando actualmente en las empresas tecnológicas. -
@gimnastico_1909 Lo que se llamado toda la vida, nacionalizarlas
-
Pero ya os digo que la iA no acabará con nosotros, o sí, pero lo inteligente es o esclavizarnos ( es caro ) o eliminarnosn a todos y crearnos virtualmente, para ir aprendiendo de los humanos
Si la iA llega a tener el poder de crear simulaciones con seres conscientes, lo más probable es que cree millones de ellas. Por pura key probabilidades habría millones de mundos simulados y solo unos pocos reales. Por lo tanto, las posibilidades de estemos ahora mismo en una de esas simulaciones es bastante alta xD
Si fuéramos una simulación los tuyo seria buscar evidencias, pruebas, bugs de la vida o sistema, buscar los límites y un límite claro es la velocidad de la luz
Todos sabemos que las computadoras, los chips, los procesadores van con electricidad ósea luz, la iA funciona con procesadores, así que la iA a la máxima velocidad que puede procesar la información es a la de la velocidad de la luzSi por una de esas alguna parte de la información que tiene que procesar la iA en sus procesadores llega más rápido que la velocidad de la luz, no tendrá tiempo a procesarlos, dibujarlo, renderizarlo y cagada, el sistema entra en error
Por eso nunca pondremos superar la velocidad de la luz
