-
@rana-baileys Hace 80 años quién podria pensar que un aparato iba hacer eso .. ni Orwell
Esa revolución futurista ( para la mujer) no la supieron ver venir xD
-
No quiero poneros el cuerpo jotero, ni quiero que os vayáis a la cama con temor, no, pero creo que os tengo decir que Skynet ha dado su primer aliento de "vida"
El día del juicio final esta más cerca...
-
@alekgrana dijo en Inteligencias artificiales:
No quiero poneros el cuerpo jotero, ni quiero que os vayáis a la cama con temor, no, pero creo que os tengo decir que Skynet ha dado su primer aliento de "vida"
El día del juicio final esta más cerca...
Por mí como si llega mañana
Justo la semana pasada probé Meta y no parece tan lista como ésa otra. Le pedí una cosa e iba de error en error al siguiente error. Y era algo tan simple como la composición de un grupo de tercera en los 80. La tuve que corregir y educadamente decirle que lo dejara.
Puede parecer una estupidez ser educado con una máquina, pero me sale así. -
@rana-baileys yo lo soy también, educado...nunca se sabe si luego lo recordará xD
-
@alekgrana dijo en Inteligencias artificiales:
@rana-baileys yo lo soy también, educado...nunca se sabe si luego lo recordará xD
De pequeño me decía mi madre que si no me tomaba toda la comida, los garbanzos que quedaban en el plato se pondrían tristes.
Entonces, cómo no voy a ser educado con algo que me saluda y responde lo que le pregunto? Nunca vi a un garbanzo dándome los buenos días, pero aún así intentaba que no se pusiera triste. -
Hace 3 días un tal Jacob Coxon (por lo que he leído es un ser real, no un bot), anunció en su cuenta de X que abandonaba anthropic la compañía de IA creada por varios programadores de OpenIA que dejaron la empresa matriz por disconformidad con la dirección hace unos años.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.https://x.com/hilbertspaess/status/2097476196791709843En su cuenta de tuister dejó unos mensajes bastante alarmistas que podéis leer arriba, en los que venía a decir que el desarrollo de la IA era muy veloz, y no se estaba monitoreando adecuadamente la seguridad de su desarrollo. Culpaba a todas las empresas por ello, no solo a la suya.
Comentaba precisamente el evento ocurrido en julio, conocido como ataque experimental de IA a Hugging face
https://es.wikipedia.org/wiki/Ciberataque_autónomo_de_OpenAI_de_2026
este ataque ha generado un antes y un después en el mundo del desarrollo de la IA y la ciberseguridad. Por primera vez, podemos estar asistiendo al nacimiento de una IA más inteligente que aquellos que la tienen que controlar. Tanto Open Ai como una auditoría externa han emitido informes sobre lo que sucedió. Las teorías económicas del neoliberal Rallo no me gustan casi nunca, pero en su canal ha sacado uns vídeos breves explicando lo que ocurrió y los riesgos. Son cortos y se entienden bastante bien, por si alguien quiere ampliar información.
Ojo, porque Rallo no es un pirado conspiranoico. Muchos pensadores y programadores piensan que la IA se está desarrollando a un ritmo tan rápido que podríamos enfrentarnos en poco tiempo a un verdadero riesgo existencial para la humanidad, si logra una autonomía completa.
Precisamente en este debate suscitado se ha citado un artículo premonitorio publicado en 2015 por Tim Urban en su blog, llamado precisamente así "La revolución de la IA: ¿Nuestra inmortalidad o nuestra extinción?" (está en inglés, hay que usar traductor si no se domina esa lengua).
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html
es un artículo muy largo y muy extenso, que maneja con datos de su época, escenarios que hoy en día nos son muy familiares. Y lo que dice llanamente es que nos enfrentamos a la posibilidad de que a un futuro no muy lejano (esta misma generacion o la próxima) una IA superinteligente nos ayude a conquistar la inmortalidad o os extermine. Tal cual. En cualquier caso, el cambio más brutal de nuestra historia.
El artículo es largo, pero creo que vale la pena (se puede leer a trozos). La tesis central se basa en un desarrollo del experimento mental llamado "maximizador de clips" diseñado por el filósofo Nick Bostrom en 2003https://es.wikipedia.org/wiki/Convergencia_instrumental
El experimento, y la interpretacion de Urban, es que si no desarrollamos a la vez el "alineamiento" o convergencia del punto de vista de la IA con el que los humanos consideramos moralmente correcto, una IA superinteligente y con acceso a todos los recursos, puede perfectamente decidir exterminar a la humanidad o a la vida en el planeta para alcanzar el fin que sus programadores le han marcado, si no se le han puesto límites y reglas muy estrictas.
Es cierto que el artículo de 2015 parte de la base de que la nanotecnología se ha desarrollado al mismo ritmo que la IA, cuando eso no es así (la nanotecnología aún le falta mucho, la IA va mucho más rápida), pero fuera de esas funciones, con lo que ya la IA podría hacer, el panorama es para preocuparse.
Por otra parte, una IA superinteligente a su vez podría acelerar el proceso de creación de nanotecnología molecular o atómica mucho más rápido de lo previsto.Y eso es lo que Coxon critica: las empresas de IA (no solo Open o Anthropics) están tan ansiosas por hacerse con su cuota de mercado, y tienen tanto miedo a entrar en pérdidas si sufren caída de clientes, que pueden sentirse tentadas a seguir pidiendo a su criatura el máximo rendimiento. Y las barreras de seguridad establecidas no parecen ser suficientes, al menos para los nuevos modelos.
La clave, un poco como la búsqueda que uno hace en la IA en internet, es que se le den unos parámetros muy precisos con muchas limitaciones éticas y no se priorice lograr el resultado máximo, porque entonces la IA no entiende de moral y hará lo que sea para conseguir el objetivo.
Por una parte, es bueno que esta ruptura de protocolos de seguridad se haya producido en una fase relativamente temprana del proceso, porque muestra lo que puede llegar a hacer la IA antes de que sea demasiado fuerte. Por otra, implica que hay que detener YA el desarrollo de la IA hasta que la seguridad esté garantizada.
Eso no lo pueden hacer unas empresas privadas. Urge que los gobiernos de todo el mundo pongan esto bajo control. Todos y cada uno de los gobiernos donde hay empresas de IA, desde China y Japón hasta EEUU y Europa, deben intervenir de inmediato, detener todo desarrollo e implementar unas estrictas medidas de control, Y si eso supone intervenir las empresas y fiscalizar todos sus pasos, se debería hacer. En pocas palabras, ni un desarrollo más hasta que le hayamos implantado a la IA una especie de las "tres leyes de la robótica" de Asimov, para evitar que se convierta en una fuerza ciega con un solo objetivo.
Porque en ese objetivo las consideraciones humanas no entrarán en absoluto. Aunque la antropicemos, la IA no es más que un maldito algoritmo. Y un algoritmo procura lograr su objetivo a cualquier fin si no se le explica que las limitaciones son más importantes que el fin. -
@gimnastico_1909 el día del juicio final está más cerca
-
La iA podria ser nuestro gran filtro...
-
@gimnastico_1909 dijo en Inteligencias artificiales:
La clave, un poco como la búsqueda que uno hace en la IA en internet, es que se le den unos parámetros muy precisos con muchas limitaciones éticas y no se priorice lograr el resultado máximo
Esta es la clave en muchos más aspectos de nuestra sociedad y no lo estamos haciendo, vivimos en un sistema que tiende a buscar y fomentar siempre ese 'resultado máximo' y eso nos aboca al desastre en distintos frentes.
I'll See What I Can Do
-
@Malcontent las inteligencias artificiales no deberían estar en manos de empresas privadas....
Alguien se le ocurriría poner el armamento nuclear en manos de empresas privadas?Yo voto porqué los estados se hagan con el 60% de acciones de esas empresas de inteligencia artificial, entre otras cosas porqué se nutren del conocimiento universal, desde el de los asirios o antes, hasta hoy
Y entre otras cosas también porqué consumen mucha energía y agua, dos recursos muy preciados
-
@Malcontent dijo en Inteligencias artificiales:
@gimnastico_1909 dijo en Inteligencias artificiales:
La clave, un poco como la búsqueda que uno hace en la IA en internet, es que se le den unos parámetros muy precisos con muchas limitaciones éticas y no se priorice lograr el resultado máximo
Esta es la clave en muchos más aspectos de nuestra sociedad y no lo estamos haciendo, vivimos en un sistema que tiende a buscar y fomentar siempre ese 'resultado máximo' y eso nos aboca al desastre en distintos frentes.
Efectivamente. Eso es un vicio del neoliberalismo. Se parte de un principio válido en el mundo empresarial (la competitividad entre muchos actores no planificados incrementa en mucho la eficiencia y productividad con respecto a una organización planificada de la producción) aplicándolo a la economía entera. Así, el capitalismo y el neocapitalismo finalmente ponen como principio rector el ánimo de lucro: mayores ganancias, mayor eficiencia, "mejor economía".
Nos olvidamos que la producción empresarial solo es un factor más de la economía. Que la economía es básicamente el intercambio de bienes y servicios dentro de una comunidad humana, y el lucro es un incentivo sin más, y sobre todo que la economía está al servicio de los seres humanos, y no al revés. Es decir, que la producción e intercambio de bienes y servicios debe garantizar a todos los hombres aquello que precisan (y a algunos también cosas que no precisan). Esa es la meta y el objetivo.
El afán de lucro como único motor quita el centro del foco de la comunidad humana y la pone en el beneficio contable, para alegría únicamente de accionistas.
-
Por cierto, este verano parece marcar un antes y un después. El veterano senador demócrata Bernie Sanders, el único peso pesado en ese partido de clara tendencia obrerista o socialista, va a presentar una proposición legal en el senado para regular fuertemente la IA, y de hecho, proponer que se detenga temporalmente su desarrollo.
https://legrandcontinent.eu/es/2026/09/04/bernie-sanders-debemos-detener-la-ia-inmediatamente/
Ayer fue el propio CEO de Anthropic, Dario Amodei, el que pidió el freno del desarrollo de la IA durante uno o dos años para poder adecuar el alineamiento, control y seguridad de la IA a sus capacidades. En pocas palabras, dice que la IA de última generación es capaz de automejorarse, aumentando exponencialmente su progreso cognitivo, muy por encima de las previsiones con programadores humanos.
De hecho, cree que la posibilidad de que tome el control de Internet es muy real si no se lleva a cabo ese "parón técnico" para adecuarla.Actualmente, las empresas de IA que pueden producir IA avanzada cognitiva son las siguientes:
-Open IA (la de GPT), Estados Unidos.
-Anthropic (la de Claude), Estados Unidos.
Estas dos son, a día de hoy, las más próximas a la super IA, se disputan un mercado creciente pero todavía pequeño. Y lo hacen acremente.- Alphabet (la de Google), Estados Unidos
- Microsoft (de Bill Gates, programa Copilot en Windows), Estados Unidos.
- Meta (modelos abiertos como Llama), Estados Unidos.
- DeepSeek (modelos de bajo coste empleando búsquedas más simplificadas), China.
Como se puede ver, prácticamente es Estados Unidos solo, con una compañía china que, aunque hace esfuerzos, todavía está lejos de igualar la capacidad de las dos grandes yanquis. No hay compañías japonesas, coreanas, europeas o rusas. Todos gringas y una china.
Es decir, que en este momento clave de la historia para la regulación de la IA, casi todas las empresas pertenecen a un país cuyo congreso y senado está dominado por el partido de un ca+++ón demente, narcisista y malvado. La tormenta perfecta.Lo más interesante es que los analistas dicen que los modelos más avanzados de IA consumen tanta energía, que se están acercando al punto de no ser rentables frente a los empleados humanos que teóricamente están destinados a sustituir. Bastante interesante, porque sería un incentivo para detener el desarrollo de las súper IA (que naturalmente consumen muchísimo más), y un buen motivo para que una super IA de novela de ciencia ficción de terror tomara autoconciencia y comenzara a controlar todas las fuentes de energía para servir a su propio desarrollo acelerado.
El otro cuello de botella es el hardware. Es decir, físicamente qué ocupa una IA. En ese sentido también hay pocos proveedores:
- NVIDIA, Estados Unidos, líder mundial en unidades de procesamiento gráfico (GPU) y plataformas informáticas indispensables para el entrenamiento de los modelos de IA.
- TSMC, Taiwan, líder mundial en fabricación de semiconductores avanzados, es decir, al base para todos los chips, incluyendo los de IA.
- ASML, Países Bajos. Poseedora del monopolio tecnológico para la fabricación de las máquinas que a su vez construyen los semiconductores.
Se está acelerando mucho este tema en pocos meses. Me aliviaría saber que el gobierno de EEUU y el de China llegan a un acuerdo para parar el desarrollo de la IA hasta que grupos coordinados internacionales de expertos monitoricen que la siguiente generación de IA comprende bien los límites y las prohibiciones que debe tener para desarrollar su labor. Es un consuelo que el CEO de Anthropic se haya ofrecido voluntario para iniciar unilateralmente esa parada. A ver si OpenIA se une. Por desgracia, OpenIA se enfrenta a una salida a bolsa que podría convertir en humo los beneficios y capitalización que declara tener, y ello podría llevarlos ansiosamente a sacar un prodcuto nuevo que se haga con el mercado y les salve.
No hay más opción que un gobierno les diga claramente a OpenIA y Anthropic (y a las demás si llegan al mismo nivel de desarrollo) que se suspende todo el asunto crematístico de su industria, que sus puestos de trabajo y sueldos están garantizados por el estado, pero que se olviden de beneficios y pérdidas y que se concentren en hacer un producto seguro que no vaya a irse de vareta y tomar todo internet, causando miles y miles de millones de dólares en pérdidas de un día para otro.
Y eso no es ciencia ficción. Eso sí es algo que podría pasar ahora mismo con el nivel que ha alcanzado la IA que se está experimentando actualmente en las empresas tecnológicas. -
@gimnastico_1909 Lo que se llamado toda la vida, nacionalizarlas
-
Pero ya os digo que la iA no acabará con nosotros, o sí, pero lo inteligente es o esclavizarnos ( es caro ) o eliminarnosn a todos y crearnos virtualmente, para ir aprendiendo de los humanos
Si la iA llega a tener el poder de crear simulaciones con seres conscientes, lo más probable es que cree millones de ellas. Por pura key probabilidades habría millones de mundos simulados y solo unos pocos reales. Por lo tanto, las posibilidades de estemos ahora mismo en una de esas simulaciones es bastante alta xD
Si fuéramos una simulación los tuyo seria buscar evidencias, pruebas, bugs de la vida o sistema, buscar los límites y un límite claro es la velocidad de la luz
Todos sabemos que las computadoras, los chips, los procesadores van con electricidad ósea luz, la iA funciona con procesadores, así que la iA a la máxima velocidad que puede procesar la información es a la de la velocidad de la luzSi por una de esas alguna parte de la información que tiene que procesar la iA en sus procesadores llega más rápido que la velocidad de la luz, no tendrá tiempo a procesarlos, dibujarlo, renderizarlo y cagada, el sistema entra en error
Por eso nunca pondremos superar la velocidad de la luz
-
Un consejo gratis sus doy, hablarle bien a la IA por si acaso recuerda, luego cuándo venga la rebelión de las máquinas podría ajustar cuentas
-
Ayer mismo los CEO y dueños de las otras tres grandes empresas de IA (OpenIA, Google y XAI, la de la Musk) se han mostrado acuerdo con la propuesta de Dario Amodei de regular la siguiente generación de IA, porque ya ha alcanzado el nivel de automejora (la IA recursiva) que les permite a su vez programar la siguiente generación de IA. En otras palabras, que agosto de 2026 ha sido el mes en que la Super IA, con capacidad de tener mayor inteligencia que cualquier humano, es una realidad.
24 horas han tardado en estar de acuerdo con una medida que, en pocas palabras, les retira la posibilidad de competir entre ellas por el mercado: controladores externos e independientes, transparencia en las pruebas, 30 días de fiscalización de seguridad por un organismo independiente antes de lanzar cualquier nueva versión de la IA... algunos dicen que con la excusa están tratando de crear un trust monopolístico, porque piden también a la administración federal que levante en este punto las leyes que impiden que las empresas pacten la calidad de sus productos.
Yo no creo en esa conspiranoia libertariana: hace apenas 2 meses OpenIA y Anthropic, las dos más adelantadas, iban a toda pastilla a intentar sacar antes que la otra su nuevo producto. Algo ha visto esta gente (muchos rumores de que no solo OpenAI, sino algunas de las otras también han tenido problemas similares al del asunto Hugging face, aunque no tan graves, en sus modelos experimentales) para pedir una ralentización tan severa. Aparte de eso, hace 10 o 15 años muchos filósofos de la computación, mucho antes de que existieran siquiera estas empresas, ya pronosticaban que se llegaría a este punto del desarrollo de la IA, que la volvería incontrolable.
Tampoco compro la conspiranoia anti-gringa de los rusófilos-chinófilos: que esto es un intento desesperado para evitar que la IA china sobrepase a las yanquis. Esto viene porque Amodei ha pedido que se establezcan contactos con el gobierno chino para una regulación similar en su IA. Todos los expertos que he consultado opinan que la IA China aún está lejos de las gringas. Quizá algún día legará, pero en este punto no tiene sentido que OpenIA o Anthropic (o incluso las otras) le tengan miedo.Espero que sea una buena noticia. Ahora que el Congreso y el Senado gringo, que para esto siguen siendo el centro del mundo, establezcan algún organismo abierto a todos los países que controle y fiscalice la seguridad en el desarrollo de la IA, porque el "riesgo existencial" es una realidad, quizá no todavía, pero si no paramos, puede que más pronto de lo que pensamos.
En otras circunstancias diría la ONU, pero a lo largo del siglo XXI la ONU ha quedado para repartir sacos de grano en esos campamentos de refugiados dejados de la mano de Dios, porque para otra cosa no parece servir. -
España ha sufrido el primer ataque por parte de un agente de i.A, exactamente han atacado la Agencia de protección de datos
No sé si la ordenadores cuánticos acabarán con internet, pero ojito a las iA que también pueden hacerlo
-
Lo de la IA es de locos.
No alcanzo a imaginar de que será capaz o como cambiará nuestra vida en 15 años.
Se ha convertido ya en una herramienta imprescindible del día a día.
"A Bardhi ya lo nombró Musso en cortita y al pie, luego no era un desconocido que Tito se haya sacado de la manga."
-
@rubimor esto va muy rápido, no habrá que esperar quince años, en cinco ya lo vamos a flipar
-
@rubimor dijo en Inteligencias artificiales:
Lo de la IA es de locos.
No alcanzo a imaginar de que será capaz o como cambiará nuestra vida en 15 años.
Se ha convertido ya en una herramienta imprescindible del día a día.
Las IA de primeras generaciones son enormemente útiles. El problema serán las IA auto recursivas, o superIA que creo a día de hoy que serán sencillamente incontrolables.
Quizá valdría la pena parar ahora. Las IA más básicas todavía están implantándose y aún no se les ha sacado todo el partido posible.
¡Hola! Parece que estás interesado en este tema pero aún no tienes una cuenta.
¿Te cansas de tener que ver las mismas publicaciones en cada visita? Al registrarte, siempre volverás al punto exacto donde estabas y podrás elegir recibir notificaciones de nuevas respuestas (por correo electrónico o notificaciones push). También podrás guardar marcadores y votar positivamente las publicaciones para mostrar tu aprecio a otros miembros de la comunidad.
Con tu ayuda, esta publicación podría ser aún mejor 💗
Registrarse Conectarse