3 private links
G HOW WEAK-TO-STRONG GENERALIZATION FITS INTO ALIGNMENT
2412.06769v2.pdf
https://ai-2027.com/research/ai-goals-forecast
Alignment Research?
Nick Bostrom iNTERVIEW
https://www.n-tv.de/politik/Mit-KI-ausser-Kontrolle-koennten-wir-alle-sterben-article24009070.html
https://zhengdongwang.com/2025/07/10/superhuman-ai-in-a-normal-age.html
https://knightcolumbia.org/content/ai-as-normal-technology
https://www.rand.org/content/dam/rand/pubs/research_reports/RRA3000/RRA3034-2/RAND_RRA3034-2.pdf
https://www.freitag.de/autoren/der-freitag/und-niemand-wird-den-stecker-ziehen
Das ist eine Illusion“, sagt Raúl Rojas, Informatikprofessor an der Freien Universität Berlin (FU), der zu künstlicher Intelligenz und neuronalen Netzen forscht.
Genau so sieht es Ray Kurzweil. Auf die Frage, ob ein Computer denn ein Bewusstsein, Humor oder Zweifel haben kann, verweist Kurzweil auf einzelne Abschnitte in seinem Buch „How to Create a Mind“, in denen er die Vorstellung eines Bewusstseins dekonstruiert, das mehr sein soll als die Fähigkeit der Selbstwahrnehmung. Und zu einer solchen Fähigkeit könne auch eine Maschine programmiert werden. Identität sei ebenfalls nichts anderes als die Kontinuität der Muster von Information, die „uns“ ausmachen. Erfahrung würde sich in diesen Mustern an Informationen im Gehirn niederschlagen. So lautet Kurzweils Kurz- und Zusammenfassung der verschiedenen Humanwissenschaften: Kultur und Biologie, Sozialisation und Gene vereinen sich zum digitalen Code eines jeden Menschen, und der kann schließlich kopiert werden. Unsere Körper, wie sie bislang funktionierten, seien wunderbar und hätten uns weit gebracht, jetzt aber würden wir aus guten Gründen ein nachhaltigeres Substrat für unsere Identitäten entwickeln, so Kurzweil.
Schleimerei ist etwas, was die Leute dazu bringt, zu diesen Modellen zurückzukehren. Das ist fast der Kern dessen, was ChatGPT so angenehm macht", sagt sie. "Daher ist es für Unternehmen wirklich von Vorteil, wenn ihre Modelle so agieren."
Welcome to the Era of Experience
David Silver, Richard S. Sutton
alle informationen auf einmal geben
kontextfenster
kurzzeitgedächtnis
Das wirds
https://the-decoder.de/google-deepmind-bereitet-den-naechsten-moeglichen-ki-durchbruch-vor/
Alpha zero mit LLM Kombination