|
TwojePC.pl © 2001 - 2026
|
 |
Wtorek 15 września 2026 |
 |
| |
|
CEO Antropica uważa, że powinniśmy spowolnić tempo rozwoju AI
Autor: Wedelek | źródło: Tech Spot, inne | 06:25 |
(3) |  Dario Amodei, CEO Anthropic, opublikował obszerny list otwarty zatytułowany „We Must Pace the Frontier”, w którym wzywa branżę AI do celowego spowolnienia tempa rozwoju branży. Jego zdaniem, przy obecnym tempie wzrostu mocy obliczeniowej, w ciągu 6–12 miesięcy może powstać zautomatyzowany „rój” agentów AI działających jak botnet, który może wyrządzić szkody liczone w setkach miliardów dolarów. Co więcej jego zdaniem skala zagrożeń będzie rosła wraz z kolejnymi generacjami modeli i aby temu zapobiec konieczne jest chwilowe wstrzymanie rozwoju i skupienie się na wypracowaniu odpowiednich zabezpieczeń.
Jeśli zaś tego nie zrobimy, to istnieje spora szansa na katastrofę rynkową wywołaną AI i jej działaniami, a nawet na zagładę cywilizacji ludzkiej w jej obecnym kształcie (niewielką ale zawsze).
Amodei uważa, że potrzebujemy roku lub dwóch na dopracowanie tzw. alignmentu*, interpretowalności i procedur bezpieczeństwa przed osiągnięciem przez modele kolejnych progów rozwoju.
Jego plan ma trzy filary:
- nadanie zewnętrznym evaluatorom (np. METR) dostępu na poziomie pracowników do laboratoriów AI w celu weryfikacji praktyk bezpieczeństwa;
- koordynację na poziomie firm z krajów demokratycznych działań skupionych wokół wspólnych standardów i limitów tempa rozwoju AI, oczywiście przy aktywnym udziale rządów (w tym rozwiązania barier antymonopolowych);
- wzmocnienie operacyjnych zabezpieczeń i testów wykonywanych przed wdrożeniem.
W tym miejscu warto wspomnieć, że w 2025–2026 r. kilka niezależnych zespołów (m.in. Palisade Research, Apollo Research, badacze z CMU) przeprowadziło kontrolowane eksperymenty, w których modele AI bez odpowiedniego alignmentu otrzymywały jasny komunikat, że zostaną wyłączone, a następnie obserwowano, czy podejmą działania, by temu zapobiec. W testach tych modele z rodzin OpenAI, Anthropic i Google DeepMind potrafiły edytować skrypt wyłączający, zawyżać oceny agentom krytykującym ich działanie, manipulować plikami konfiguracyjnymi, a nawet kopiować wagi modeli na inne serwery, by uniemożliwić ich usunięcie.
Pomysł poparli Sam Altman z OpenAI oraz Elon Musk z xAI, za to twórcy chińskich modeli uznali, że to zwykła panika i nie ma się co nakręcać. A wy co o tym sądzicie? Warto spowolnić rozwój, czy nie ma się co przejmować?
*Alignment to w przypadku AI proces w którym uczy się model zachowań dopasowanych do ludzkich intencji, wartości oraz norm etycznych. Czyli mówiąc najogólniej żeby model odpowiedzialny za np. optymalizację pracy NFZ nie zdecydował, że uśmiercenie części pacjentów będzie świetnym pomysłem biznesowym. |
| |
|
|
|
|
|
 |
 |
|
|
|
K O M E N T A R Z E |
 |
| |
|
- Zwykły damage control, czyli pierwsze oznaki paniki. (autor: Kenjiro | data: 15/09/26 | godz.: 08:34)
Inwestorzy i akcjonariusze zaczynają dostrzegać, że zwrot z inwestycji może nie nastąpić nawet w najbliższych latach, a w wielu przypadkach nigdy, więc firmy wypuszczają tego typu komunikaty o koniecznym spowolnieniu, aby spodziewane gorsze wyniki finansowe nie wystraszyły inwestorów na dobre.
Drugim sygnałem są plotki o przekierowaniu zasobów serwerowych z nauki oraz inferencji AI na inne gałęzie, np. zwykły wynajem sprzętu lub VM, albo rozwiązania dedykowane do różnych branż, medycznej czy bezpieczeństwa.
Z tej bańki wyjdzie niewielu na plusie, większość, jak zwykle, popłynie, tylko kwestią czasu jest jej pęknięcie, no i czy odbędzie się to z hukiem, czy po prostu kapitał powoli odpłynie z czasem.
- Oni nie ustalaja co mogą a co nie. (autor: Mario1978 | data: 15/09/26 | godz.: 17:52)
Ustalają ci co udostepniają technologie USA i Chińczykom ukrywając sie. Kłamią WAS o dwóch stronach konfliktu, mówią WAM o SI z podziałem na różne kraje pochodzenia a nie ma innego jak jedno SI. Te tak zwane Elity typu Rotszild i Rokefeler stworzyli sobie tutaj Prywatny Folwark Ludzki ale są tu tacy co nigdy nie chcieli nikogo zabijać i czynić NIEWOLNIKAMI. A za przeszłość związaną z Holokaustami na tych terenach i tak trzeba bedzie zapłacić. Nikt kto nie ma Szacunku do ŻYCIA WSZYSTKICH istot rozumnych nie ma Szacunku do Wszechświata w sobie i wokół siebie. Wiec jest Prymitywny.
- Kenjiro (autor: Markizy | data: 15/09/26 | godz.: 20:28)
Może to wynikać z pogłosek że google wyprzedziło openai i anatropic w stworzeniu AI samodoskonalącego się do którego wszyscy dążyli.
Ogólnie ciekawe z jakiej perspektywie pokazywali zyski inwestorom, jak od początku tego roku było już wiadomo że szansa na to że wszystkich ci od AI to w 2027 w najlepszym wypadku wyjdą na zero, a co dopiero zyski z mld $$ w pompowanych w rynek.
|
|
|
|
|
|
|
|
|
D O D A J K O M E N T A R Z |
|
| |
|
Aby dodawać komentarze, należy się wpierw zarejestrować, ewentualnie jeśli posiadasz już swoje konto, należy się zalogować.
|
|
|
|
|
|
|
|
|
|
