so was ist bestimmt sehr hilfreich bei der modernisierung unserer fax-basierten verwaltungsstrukturen hier im schlandle. ki für den einsatz trainieren:
Zum einen kann eine Wächter-KI nützlich sein, um künstliche Intelligenzen beim „Belohnungs-Hacking“ durch betrügerische Abkürzungen zu ertappen. „Eine solches Chain-of-Thought-Monitoring könnte eine der wenigen effektiven Methoden sein, um KI-Modelle mit übermenschlichen Fähigkeiten zu überwachen“, konstatieren Baker und sein Team.
Allerdings eigne sich diese Kontrolle nicht dafür, schon im Training gegenzusteuern. „Wir raten KI-Entwicklern dringend davon ab, eine solche Supervision schon beim Training von fortgeschrittenen Reasoning-Modellen einzusetzen“, so die OpenAI-Forscher. Denn das würde nur dazu führen, dass die KI-Modelle lernen, die Überwachung auszutricksen. De facto wären wir dann blind und hätten keine Möglichkeit mehr, die künstlichen Intelligenzen zu kontrollieren.
ich schätze mal, eine maßnahme der blackrock-koalition wird dann sein, ki schon mit überwachung durch wächter-ki zu trainieren, weil das macht man ja auch sonst so. und überhaupt, kontrolle ist besser ...
#
computer #
ki #
verwaltung #
modernisierung #
cdsu #
fritzefrei #
umfallerpartei
