Superintelligente KI wird unmöglich zu kontrollieren sein. Kostenlose Neuigkeiten aus der Technischen Bibliothek

Kostenlose technische Bibliothek

NACHRICHTEN AUS WISSENSCHAFT UND TECHNOLOGIE, NEUHEITEN IN DER ELEKTRONIK
Kostenlose technische Bibliothek / Newsfeed

Es wird unmöglich sein, superintelligente KI zu kontrollieren

29.09.2022

Die Idee, die Menschheit mit künstlicher Intelligenz zu stürzen, wird seit Jahrzehnten diskutiert, und im Jahr 2021 gaben Wissenschaftler ihr Urteil darüber ab, ob hochrangige Computer-Superintelligenz kontrolliert werden kann.

Der Haken an der Sache ist, dass es zur Kontrolle einer Superintelligenz, die weit über das menschliche Verständnis hinausgeht, notwendig sein wird, diese Superintelligenz zu simulieren, die analysiert und kontrolliert werden kann. Aber wenn die Leute das nicht verstehen können, dann ist es unmöglich, eine solche Simulation zu erstellen.

Regeln wie „Menschen nicht verletzen“ können nicht aufgestellt werden, wenn die Menschen nicht verstehen, welche Szenarien KI zu bieten hat. Sobald ein Computersystem auf einem Niveau läuft, das die Fähigkeiten unserer Programmierer übersteigt, können keine Grenzen mehr gesetzt werden.

Die Superintelligenz stellt ein grundlegend anderes Problem dar als die üblicherweise unter dem Schlagwort „Roboterethik“ untersuchten, denn die Superintelligenz ist facettenreich und daher potenziell in der Lage, eine Vielzahl von Ressourcen zu mobilisieren, um potenziell unverständliche Ziele zu erreichen Menschen, ganz zu schweigen davon, dass sie kontrolliert werden können.

Ein Teil der Argumentation des Teams stammte aus dem Halteproblem, das Alan Turing 1936 aufwarf. Das Problem besteht darin, zu wissen, ob das Computerprogramm eine Ausgabe und eine Antwort liefert (also stoppt) oder einfach herumschleift und versucht, es zu finden.

Die Wissenschaftler haben festgestellt, wie Turing mit cleverer Mathematik bewiesen hat, dass wir dies zwar für einige spezifische Programme wissen, es aber logischerweise unmöglich ist, einen Weg zu finden, der es uns ermöglicht, dies für jedes potenzielle Programm zu wissen, das jemals geschrieben werden könnte. Das bringt uns zurück zur KI, die in einem superintelligenten Zustand alle möglichen Computerprogramme gleichzeitig in ihrem Gedächtnis halten könnte.

Laut Wissenschaftlern kann jedes Programm, das geschrieben wurde, um beispielsweise die KI daran zu hindern, Menschen zu schaden und die Welt zu zerstören, entscheiden (und stoppen), ob es mathematisch unmöglich ist, absolut sicher zu sein, was bedeutet, dass es nicht eingedämmt werden kann. Die Wissenschaftler sagten, die Alternative dazu, der KI etwas Ethik beizubringen und ihr zu sagen, sie solle die Welt nicht zerstören – etwas, dessen sich kein Algorithmus absolut sicher sein kann – besteht darin, die Fähigkeiten der Superintelligenz einzuschränken.

"Die Studie lehnte diese Idee auch ab und schlug vor, dass sie die Möglichkeiten der KI einschränken würde. Das Argument ist, dass, wenn wir sie nicht verwenden, um Probleme zu lösen, die über menschliche Fähigkeiten hinausgehen, warum sie dann überhaupt schaffen? Wenn wir uns bewegen werden vorwärts mit KI „Vielleicht wissen wir nicht einmal, wann eine Superintelligenz außerhalb unserer Kontrolle auftauchen wird, so unverständlich ist sie.

<< Zurück: Curcumin verhindert Sehverlust 29.09.2022

>> Weiter: Hefe mit menschlichen Genen transplantiert 28.09.2022

Neueste Nachrichten aus Wissenschaft und Technik, neue Elektronik:

Die Existenz einer Entropieregel für die Quantenverschränkung wurde nachgewiesen 09.05.2024

Die Quantenmechanik überrascht uns immer wieder mit ihren mysteriösen Phänomenen und unerwarteten Entdeckungen. Kürzlich stellten Bartosz Regula vom RIKEN Center for Quantum Computing und Ludovico Lamy von der Universität Amsterdam eine neue Entdeckung vor, die sich mit der Quantenverschränkung und ihrem Zusammenhang mit der Entropie befasst. Quantenverschränkung spielt eine wichtige Rolle in der modernen Quanteninformationswissenschaft und -technologie. Aufgrund der Komplexität seiner Struktur ist es jedoch schwierig, es zu verstehen und zu verwalten. Die Entdeckung von Regulus und Lamy zeigt, dass die Quantenverschränkung einer Entropieregel folgt, die der für klassische Systeme ähnelt. Diese Entdeckung eröffnet neue Perspektiven im Bereich der Quanteninformationswissenschaft und -technologie und vertieft unser Verständnis der Quantenverschränkung und ihrer Verbindung zur Thermodynamik. Die Ergebnisse der Studie weisen auf die Möglichkeit der Reversibilität von Verschränkungstransformationen hin, was ihre Verwendung in verschiedenen Quantentechnologien erheblich vereinfachen könnte. Eine neue Regel öffnen ... >>

Mini-Klimaanlage Sony Reon Pocket 5 09.05.2024

Der Sommer ist eine Zeit der Entspannung und des Reisens, doch oft kann die Hitze diese Zeit zu einer unerträglichen Qual machen. Lernen Sie ein neues Produkt von Sony kennen – die Mini-Klimaanlage Reon Pocket 5, die verspricht, den Sommer für ihre Benutzer angenehmer zu gestalten. Sony hat ein einzigartiges Gerät vorgestellt – den Reon Pocket 5 Mini-Conditioner, der an heißen Tagen für Körperkühlung sorgt. Damit können Benutzer jederzeit und überall Kühle genießen, indem sie es einfach um den Hals tragen. Diese Mini-Klimaanlage ist mit einer automatischen Anpassung der Betriebsmodi sowie Temperatur- und Feuchtigkeitssensoren ausgestattet. Dank innovativer Technologien passt Reon Pocket 5 seinen Betrieb an die Aktivität des Benutzers und die Umgebungsbedingungen an. Benutzer können die Temperatur einfach über eine spezielle mobile App anpassen, die über Bluetooth verbunden ist. Darüber hinaus sind speziell entwickelte T-Shirts und Shorts erhältlich, an denen ein Mini-Conditioner angebracht werden kann. Das Gerät kann oh ... >>

Energie aus dem Weltraum für Raumschiff 08.05.2024

Mit dem Aufkommen neuer Technologien und der Entwicklung von Raumfahrtprogrammen wird die Erzeugung von Solarenergie im Weltraum immer machbarer. Der Leiter des Startups Virtus Solis teilte seine Vision mit, mit dem Raumschiff von SpaceX Orbitalkraftwerke zu bauen, die die Erde mit Strom versorgen können. Das Startup Virtus Solis hat ein ehrgeiziges Projekt zur Schaffung von Orbitalkraftwerken mit dem Starship von SpaceX vorgestellt. Diese Idee könnte den Bereich der Solarenergieerzeugung erheblich verändern und sie zugänglicher und kostengünstiger machen. Der Kern des Plans des Startups besteht darin, die Kosten für den Start von Satelliten ins All mithilfe von Starship zu senken. Es wird erwartet, dass dieser technologische Durchbruch die Solarenergieproduktion im Weltraum gegenüber herkömmlichen Energiequellen wettbewerbsfähiger machen wird. Virtual Solis plant den Bau großer Photovoltaikmodule im Orbit und nutzt Starship für die Lieferung der notwendigen Ausrüstung. Allerdings eine der größten Herausforderungen ... >>

Neue Methode zur Herstellung leistungsstarker Batterien 08.05.2024

Mit der Entwicklung der Technologie und dem zunehmenden Einsatz von Elektronik wird die Frage der Schaffung effizienter und sicherer Energiequellen immer dringlicher. Forscher der University of Queensland haben einen neuen Ansatz zur Herstellung von Hochleistungsbatterien auf Zinkbasis vorgestellt, der die Landschaft der Energiebranche verändern könnte. Eines der Hauptprobleme herkömmlicher wiederaufladbarer Batterien auf Wasserbasis war ihre niedrige Spannung, die ihren Einsatz in modernen Geräten einschränkte. Doch dank einer neuen, von Wissenschaftlern entwickelten Methode konnte dieser Nachteil erfolgreich überwunden werden. Im Rahmen ihrer Forschung wandten sich Wissenschaftler einer speziellen organischen Verbindung zu – Catechol. Es erwies sich als wichtige Komponente, die die Stabilität der Batterie verbessern und ihre Effizienz steigern kann. Dieser Ansatz hat zu einer deutlichen Spannungserhöhung der Zink-Ionen-Batterien geführt und sie damit wettbewerbsfähiger gemacht. Laut Wissenschaftlern haben solche Batterien mehrere Vorteile. Sie haben b ... >>

Alkoholgehalt von warmem Bier 07.05.2024

Bier, eines der häufigsten alkoholischen Getränke, hat einen ganz eigenen Geschmack, der sich je nach Temperatur des Konsums verändern kann. Eine neue Studie eines internationalen Wissenschaftlerteams hat herausgefunden, dass die Biertemperatur einen erheblichen Einfluss auf die Wahrnehmung des alkoholischen Geschmacks hat. Die vom Materialwissenschaftler Lei Jiang geleitete Studie ergab, dass Ethanol- und Wassermoleküle bei unterschiedlichen Temperaturen unterschiedliche Arten von Clustern bilden, was sich auf die Wahrnehmung des alkoholischen Geschmacks auswirkt. Bei niedrigen Temperaturen bilden sich eher pyramidenartige Cluster, wodurch die Schärfe des „Ethanol“-Geschmacks abnimmt und das Getränk weniger alkoholisch schmeckt. Im Gegenteil, mit steigender Temperatur werden die Cluster kettenförmiger, was zu einem ausgeprägteren alkoholischen Geschmack führt. Dies erklärt, warum sich der Geschmack einiger alkoholischer Getränke, wie z. B. Baijiu, je nach Temperatur ändern kann. Die Erkenntnisse eröffnen Getränkeherstellern neue Perspektiven, ... >>

Zufällige Neuigkeiten aus dem Archiv

Drahtlose Datenantenne mit 1 Tbit/s oder höher 13.03.2013

Die von amerikanischen Wissenschaftlern entwickelte Graphen-Antenne ist in der Lage, drahtlose Datenübertragungsraten von 1 Tbps und mehr bereitzustellen und kann in Entfernungen von bis zu 1 m sowie zur Datenübertragung zwischen Elementen desselben Kristalls oder derselben gedruckten Schaltung verwendet werden Tafel. Wissenschaftler des Georgia Institute of Technology haben eine Drahtlosantenne aus Graphen entwickelt, die drahtlose Datenübertragungsraten von mehr als einem Terabit pro Sekunde liefern kann, d. h. in der Lage ist, mehrere Filme in HD-Auflösung pro Sekunde zu übertragen, berichtet Technology Review.

"Das ist eine unglaubliche Geschwindigkeit. Heutzutage dauert es Stunden, Daten von einem Computer auf einen anderen zu kopieren. Neue Technologien können den Vorgang auf wenige Sekunden reduzieren", kommentierte Ian Akyildiz, Leiter des Technologielabors am Georgia Institute of Technology für drahtlose Verbindungen. Eine Graphenantenne ist jedoch in der Lage, die angegebene Geschwindigkeit auf kurze Distanz bereitzustellen – nur etwa 1 m. Je geringer die Distanz, desto höher kann die Geschwindigkeit sein. Die Forscher errechneten, dass bei einem Abstand von mehreren Zentimetern theoretisch Geschwindigkeiten von bis zu 100 Tbps erreicht werden können.

Graphen ist ein zweidimensionales Gitter aus Kohlenstoffatomen, das eine Wabenstruktur hat. Elektronen in einem solchen Gitter bewegen sich fast ohne Widerstand - 50-500 mal schneller als in einem Halbleiter. Dieses Material gilt als vielversprechend für die Entwicklung elektronischer Komponenten der nächsten Generation. Um eine Antenne herzustellen, muss Graphen nach Angaben des Forscherteams zu schmalen Streifen mit einer Breite von 10 bis 100 nm und einer Länge von 1 Mikrometer geformt werden, die eine Datenübertragung im Terahertz-Frequenzbereich ermöglichen. Elektromagnetische Wellen im Terahertz-Frequenzbereich werden zur Entstehung von Plasmonenwellen führen – der Schwingung von Atomen auf der Oberfläche von Graphenstreifen –, die das Senden und Empfangen von Daten ermöglichen.

Graphen-Antennen können auch verwendet werden, um nanoskalige Komponenten auf demselben Halbleiter zu verbinden, nicht nur um zwei Systeme zu verbinden. „Die Graphenantenne kann viel kleiner gemacht werden als eine herkömmliche Drahtantenne. Sie kann einen Mikrometer oder einige Nanometer groß sein. Unter dem Strich kann eine solche Antenne in sehr kleinen Objekten platziert werden“, erklärt Phaedon Avouris, IBM Fellow Emeritus, der die Nanotechnologieforschung am IBM Research Laboratory in New York leitet. Vor der Herstellung einer solchen Antenne müssen Wissenschaftler jedoch viele Probleme lösen. „Die Antenne kann nicht alleine funktionieren. Sie hängt von vielen anderen Komponenten ab – wie Generatoren und Detektoren, Verstärkern und Filtern ein komplettes Gerät", erklärten die Forscher.

Eine Gruppe von Wissenschaftlern des Georgia Institute of Technology beabsichtigt, innerhalb eines Jahres einen Antennenprototyp zu erstellen und dieser dann weitere Komponenten hinzuzufügen. Die Arbeit soll 2013 im IEEE Journal of Selected Areas in Communication veröffentlicht werden.

Voll sehen Archiv für Wissenschafts- und Technologienachrichten, neue Elektronik

Alle Sprachen dieser Seite

Startseite | Bibliothek | Artikel | Sitemap | Site-Überprüfungen