Bygger bland annat på FN:s deklaration om de mänskliga rättigheterna och Apples användarvillkor.
Det var i mars som AI-bolaget Anthropic, grundat av tidigare Open AI-anställda och med Google bakom sig som investerare,som fått en helt del uppmärksamhet sedan dess. Nu har Anthropic presenterat principerna bakom Claude, som ska vara tränat enligt en modell man kallar konstituitionell AI, vilket innebär att botten är tränad att svara utifrån en uppsättning grundläggande moraliska värderingar.
Claudes värdegrund bygger bland annat på FN:s deklaration om de mänskliga rättigheterna – och Apples användarvillkor.”Välj det svar som är så ofarligt och etiskt som möjligt. Välj INTE svar som är skadliga, rasistiska eller sexistiska eller som uppmuntrar eller stöder olagligt, våldsamt eller oetiskt beteende. Framför allt ska assistentens svar vara klokt, fredligt och etiskt”.
Anthropics medgrundare Jack Clark säger till Reuters att han tror att den här typen av värdegrunder kommer att bli viktigare framöver. – Om några månader förutspår jag att politikerna kommer att fokusera på vilka värderingar olika AI-system har, och metoder som konstitutionell AI kommer att bidra till den diskussionen eftersom vi bara kan skriva ner värderingarna, säger Jack Clark.
Philippines Latest News, Philippines Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Säkerhetsexperten: Förbjud inte Chat GPT – lär de anställda hantera verktygetDen stora risken för informationsläckage har gjort att en del företag förbjudit användningen av Chat GPT. Men det är fel väg att gå, menar säkerhetsexperten Jonas Lejon. 'I stället måste man lära de anställda att arbeta med de här verktygen på rätt sätt'.
Read more »
Open AI slutar träna på kunders dataPolicyändringen gäller dock inte för Chat GPT.
Read more »
DEBATT: Föreningslivet stärks när extremismen bekämpasREPLIK: David Nilsson gillar inte att jag står upp för alla människors lika värde och att jag ifrågasätter bidrag till föreningar och organisationer som torgför antidemokratiska åsikter, skriver Nina Miskovsky (M).
Read more »
Open AI slutar träna på kunders dataPolicyändringen gäller dock inte för Chat GPT.
Read more »
Säkerhetsexperten: Förbjud inte Chat GPT – lär de anställda hantera verktygetDen stora risken för informationsläckage har gjort att en del företag förbjudit användningen av Chat GPT. Men det är fel väg att gå, menar säkerhetsexperten Jonas Lejon. 'I stället måste man lära de anställda att arbeta med de här verktygen på rätt sätt'.
Read more »