Pracuję dużo z Claude od Anthropic. I im dłużej pracuję, tym bardziej rozumiem, dlaczego.
Nie chodzi tylko o jakość odpowiedzi, ale także o to, że firma, która go stworzyła, zadała sobie pytanie zanim zadali je regulatorzy:
„Wiemy, że AI zmieni świat. Jak sprawić, żeby ta zmiana była dobra i bezpieczna?"
Anthropic jako jedyna firma AI opublikowała zestaw zasad etycznych, według których model jest trenowany, nazywają to Constitutional AI. Model nie uczy się tylko od ludzkich ocen, jak ChatGPT, ale sam weryfikuje swoje odpowiedzi pod kątem spisanych zasad, inspirowanych m.in Powszechną Deklaracją Praw Człowieka, czy hierarchią zasad: bezpieczeństwo - ponad wszystko, etyka - ponad wygodę użytkownika, uczciwość - model przyznaje się do niepewności, nie kłamie i bycie pomocnym - ale nigdy kosztem powyższych.
I odwaga, by jednocześnie widzieć zarówno ryzyko jak i szansę, bez udawania, że jedno nie istnieje.
A potem stworzyli reklamę...
Ciekawa jestem, co powiecie po obejrzeniu. Czy i co ona Wam robi?
Każda technologia, która zmienia świat, rodzi te same pytania. AI nie zabierze niczego tym, którzy nie przestają myśleć. Myśl dalej.
Anthropic założyli w 2021 roku Dario Amodei (CEO) i Daniela Amodei (President) - rodzeństwo, które wcześniej pracowało w OpenAI (firma stojąca za ChatGPT).
Dario był w OpenAI wiceprezesem ds. badań. Odszedł razem z kilkunastoma kluczowymi badaczami, bo uznał, że OpenAI zbyt agresywnie goni za komercjalizacją kosztem bezpieczeństwa. Odszedł z firmy, którą współtworzył, bo uważał, że wyścig o to kto pierwszy zbuduje najpotężniejszy model jest niebezpieczny.
Założył Anthropic z tezą, bezpieczeństwo AI to nie hamulec — to warunek konieczny, żeby ta technologia w ogóle miała sens.
Konstytucja Claude'a
Powszechna Deklaracja Praw Człowieka została przyjęta 10 grudnia 1948 roku przez Zgromadzenie Ogólne ONZ w Paryżu. Zawiera 30 artykułów gwarantujących m.in. prawo do życia, wolności, równości, edukacji i ochrony przed torturami. Komisję, która ją stworzyła, prowadziła Eleanor Roosevelt i do dziś jest to najczęściej tłumaczony dokument w historii ludzkości, dostępny w ponad 500 językach. To właśnie ten dokument Anthropic wybrał jako jedną z inspiracji dla zasad etycznych swojego modelu AI, budując konstytucję dla maszyny na fundamencie, który ludzkość napisała dla siebie.
