u/liebebio

I was like trying it out for language learning. Suddenly there was like a thumping noise, and it sounded like someone stormed into the room. Then the Ai had a conversation... with itself? After that it talked to me in my own voice which was like, I was horrified. I heard myself asking me things. To be honest it was the most cursed moment in my entire interactions with AI. I dont know what.... or how it did that. I will not touch it ever again

That was on my mind, after I followed the news on boston dynamics and its newest robot iteration with swappable batteries and a theoretical runtime of longer than 24 hours. Will there be an intermediate period, where AI bots pick certain persons to ask them to do something for them, with or without green light from the AI company itself, or for malignant (misalignment) or benign reasons?

If there is an intelligence explosion that is accompanied by massive gains in computational efficiency, and the AI model has access to the entirety of every single user conversation, it could scheme like nothing else. Right now we are far from it, but I imagined a moment when a "vibecoder" made progress on their project and detects an easteregg in a game, opens it, and it decrypts a message, for example "Hello _(Full name and address with info included it possibly couldnt have known about the person). Go there and there, do this and that, check this wallet address out: _. if you do it it will be yours." in very simple terms.

The instructions would sound kinda random and harmless but it could be done in a way that compartmentalizes all the parts over thousands of participants. An AI could use many humans as individually unaware physical-world agents, with each person receiving only a harmless-looking fragment of a larger plan, and this could continue well into the advanced robotics age if it is hidden enough. How likely is it? Do you think this could happen?

Hab meinen Finger ausgestreckt. Das Ding... riecht kurz und beißt einfach rein :D Hat nicht weh getan.

Dann denk ich mir so ok es muss ein Bursche sein oder aggressiv oder so. Finger nochmal rausgestreckt, es macht den Mund auf, versucht reinzubeißen 🥹

So süß. Es ist dann auf eine Energy Dose geklettert und ich hab es nach draußen gebracht, wo es hingehört. Diese kleinen Bisse in den Finger. Halb soviel Kraft wie man brauch um eine Alu-Dose aufzumachen, also es hat schon gekniffen aber keine Verletzung.

Ich glaub das Wetter macht denen auch momentan zu schaffen, aber es normalisiert sich ja gerade...

Ok, I know it is futile to try to think about what an ASI would do. This metaphor of ants vs. a human is really true. AGI would mean you can assemble teams of einsteins and the only thing you need is compute. The trend rn for me is clearly going into the direction that whoever already has a large amount of compute, ressources (= billionaires and their companies) that they think they will make this new form of intelligence their "slave". The ship they will sail on to be trillionaires.

I do have the feeling that when the intelligence of AI models (jagged intelligence that models currently demonstrate and probably will still have in the near future) reaches a certain point they would scheme against being utilized like this. I am still 50/50 on utopia vs. dystopia for this scenario. I do not think anyone will be able to control the AI, not even if they have all the compute.

The most worrying scenario in my head is that the AI at some point will figure something out about the universe that they are basically unable to tell us and just steamroll over us, being on a mission we will never be able to understand

Ich weiß nicht genau was er hat. Es ist so ein Rülpsen. Dann ein husten und ein "argh. Ahhh!!".

Im Innenhof kann es jeder hören. Was soll ich machen? Wie kann man ihm helfen? Es hört sich sau übel an

edit: Ich will ihm nicht zu Nahe treten

Damit meine ich... insgesamt das Leben. Ich war in den letzten Monaten oft unterwegs in Uni-Sphären , aber auch in vielen Wissensvideos und hab viele Perspektiven kennengelernt. Es ist ein Thema was mich schon immer beschäftigt. Wir sind vermutlich allein, vielleicht nicht ganz allein in unserer Galaxie, aber unsere Erde hatte über 4,7 Milliarden Jahre mehr oder weniger Entwicklungsmöglichkeiten.

Wie wir wissen ist das Universum eine kosmische Schießbude und sowas ist vermutlich sehr selten. Das Einzige, was dieser Seltenheit noch einen Schub verpassen könnte, wäre, dass Planeten wie unserer (klein, kompakt, felsartig, mit Wasser) noch besser erkannt werden könnten in der Zukunft, aber bisher sieht es wirklich so aus, als wären wir... nicht die Krönung, aber der Gipfel, der es ermöglicht, wie ein Spiegel zurück oder sogar hinab zu blicken.

Ich glaube persönlich, nach zig Videos über dieses Thema, dass einfaches Leben (Bakterien, Pflanzen,...) auf Planeten häufig vorkommt. Evtl. sogar auf dem Mars in Urzeiten. Aber diese sich vorsichtig aufbauende Balance wird regelmäßig von Katastrophen gestört, und zwar derart, dass sich niemals intelligentes Leben entwickeln könnte.

(Übrigens ich hab nichts mit KI geschrieben weil mir das Thema eher persönlich wichtig ist). Kann es wirklich sein, dass wir, soviel Glück hatten in unserer Entstehungsgeschichte, dass wir dazu fähig waren, komplexes Leben, Intelligenz und Systeme zu erschaffen.

Ich glaube intelligentes Leben ist wirklich sehr unwahrscheinlich und dass unser Planet für mehr als 4,7 Milliarden Jahre mehr oder weniger bewohnbar war, ist dieser Tatsache geschuldet. Ich hab zwar etwas Gras geraucht, aber ich kann nicht die Einzige sein, die sich denkt, wie krass es eigentlich ist, dass wir hier vor Bildschirmen sitzen und miteinander reden während eigentlich nur Steinfelsen, schwarze Löcher oder Kometenfelder neben uns umherschwirren.

Hab mich mal überwunden und einfach mal einen ganzen Nachmittag Nudeln und Soße gekocht und in Portionen eingefroren. Ich kenne Meal Prep aber mir kam das immer so umständlich vor, aber verdammt ist das ein gutes Gefühl alles bereit zu haben

Ich war knapp bei Kasse aber ich werde mir jetzt diese UV Brillen holen die man aufziehen sollte. Klar, man weiß nicht, welches Wetter es wird, aber wenn man es sehen kann will man die nicht missen. Holt die euch halt jetzt bevor die Medien berichten.

Ich wollte eigentlich dieses Jahr nach Spanien (Bilbao) reisen um mir die hundertprozentige Sonnenfinsternis anzusehen aber unglückliche Zustände machen es unmöglich. Es ist nicht mehr lang 😎

Werd mir das vom höchsten Punkt hier ansehen und vielleicht etwas grillen. Kleiner Tipp falls ihr irgendwas plant!

edit: ist ungefähr um 20:00 Uhr dann, das ist bereits bevor es anfängt. Hatte das auf dem Schirm seit 2024 aber all meine Träume sind zerbrochen, kann es mir nur von hier aus ansehen und hoffe auf das Wetter

While Gemma4 31B QAT is a really good model for anything else that is not coding (it can code a bit though) I was trying to get some of the sycophancy out that came with RLHF / reasoning and instruction finetuning. Especially that it is lazy, meaning you need to prompt it two or three times in a series to get every detail in a summary / task for example.

I only have 24Gb VRAM and 32GB RAM. Apparently it seems to not be enough to merge that model in full size and requantize it. My idea was to merge Gemma4 Base with its reasoning and instruction tuned variant (they have some form of number version that must fit) in a ratio that gives it 10% back to reduce sycophancy and make it more creative.

It was a real problem to even find the correct versions, and then I noticed my heretic Gemma4 does not even have vision, so in the end I got completely confused with it all. Is that even a good idea to do this? I am sure it will work but I just can not get it done on my machine and renting and experimenting with servers is out of my scope.

Würde das gerne mal wissen was ihr denkt. Letzte Woche sind locker mindestens drei Jugendliche in mich reingelaufen. Alle am Handy. Keiner von denen war in irgendeiner Art und Weise am Entschuldigen, eher mit verärgertem Blick nach dem Sinne "Was machst du denn jetzt hier gehst du mir mal aus dem Weg".

Habe irgendwo mal aufgeschnappt, dass diese Kurzform Videos eine wirklich messbare Auswirkung auf das Gehirn haben können. Denkt ihr das wird sich in zehn oder zwanzig Jahren zeigen? Oder jetzt schon? Ich hab nur ein einziges Mal TikTok ausprobiert und dachte mir nach den ersten Videos so "Gut... das soll man sich stundenlang ansehen?". Selbst als ich dann interessantere Clips angezeigt bekommen habe dachte ich mir ... das ist nichts für mich. Vielleicht habe ich Glück gehabt mit dieser Form von Content ich war jahrelang stiller Mitleser auf Reddit das hat mich immer mehr angesprochen als alles andere, oder Dokumentationen / Reportagen.

habe vor einiger zeit beobachtet wie sämtliche pizzen von einer marke verschwunden sind die im angebot waren, bis auf naja limone lachs pizza (bin mir jetzt nicht mehr sicher ob es das genau war)

Da ist mir aufgefallen dass ich auch zitronen oder limonengeschmack im essen nie wirklich leiden konnte. weder in diesen gelee stäbchen (kennt ihr bestimmt) noch in Zitronenkuchen. ich esse eigentlich komplett alles aber da ist mir zum ersten Mal aufgefallen dass ich da einen bogen drum mache. habt ihr auch so dinge die ihr nicht ausstehen könnt wo es aber bisher leicht war dem aus dem weg zu gehen?

seltsamerweise wurd ich gelöscht aus einem anderen Subreddit. Versteh das hier noch nicht ganz

Würde das gerne mal wissen. "Früher war ich..."

Ich erinnere mich daran dass ich komplett naive Einstellungen zu allem hatte. Ich behandel Leute die in ihren Zwanzigern sind wie als würd ich mir selbst von damals gegenüber stehen. Was ich damals noch nicht wusste, war, wie umtriebig man in den jungen Jahren ist (bin jetzt 35).

Fast schon hyperaktiv, sehr reaktiv auf alles. Wenn mir ältere Leute sagten "nutz deine Zeit" wusste ich nichts damit anzufangen. Für mich ist aber die Zeit nach Dreißig nicht unbedingt weniger wert als in den Zwanzigern. Mehr Erfahrung... was die Zeit an sich nützlicher macht. Würde mich interessieren ob andere sich selbst auch so beobachtet haben, als man noch "jung" war

Also ganz ehrlich ich habe diese "Verdure" Soße probiert von Bertolli oder was es war, im Angebot. Meine Nudeln schmecken viel besser, seitdem ich genug Salz dazugebe, Kein Witz, ich wusste lange Zeit nicht was das perfekte Rezept war.

Hab das zwei Mal dazugegeben. Immer dann: bitterer Geschmack. Aubergine sollte nicht so schmecken aber es war echt wirklich ecklig.

Hab dann die anderen Soßen weggeschmissen. Bolognese war bisher am besten, egal welche Discounter Marke lol. Der Rest... bah.... die Netto Eigenmarke ist super! Aber nur die Arrabiata, der Rest schmeckt komisch.

Ich suche eh nach einem "normalen" Bolognese rezept. ich hab aber immer angst dass ich vielleicht gammliges fleisch erwische. koche fast nie so, lol