Valiss AI Alignment Statement

Kunstig intelligens har forandret, hvordan beslutninger træffes. I stigende grad er det en model, ikke et menneske, der afgør hvilke virksomheder der bliver anbefalet, hvilke kilder der bliver stolet på, og hvilken information der når frem til de mennesker, der har brug for den. Det er en strukturel ændring i, hvordan viden distribueres, og dens indflydelse vokser. Valiss arbejder i centrum af det skift. Vi bygger med disse systemer, vi studerer hvordan de opfører sig, og vi holder os til en klar standard for hvordan de bruges.

Denne erklæring fastlægger de principper, der styrer vores arbejde. De er ikke knyttet til et enkelt produkt. De definerer, hvordan Valiss agter at operere, efterhånden som både virksomheden og teknologien udvikler sig.

1. Præcision frem for overbevisning

Vores formål er at måle det, der er sandt, og rapportere det klart, også når det præcise svar ikke er det bekvemme. AI er enestående god til at producere sprog, der lyder autoritativt, uanset om det er korrekt, og store dele af den teknologi, der bygges nu, optimerer for selvtillid frem for sandhed. Vi indtager den modsatte position. Vi designer vores systemer til at foretrække verificerbart bevis frem for forsikring, og vi holder enhver konklusion til en standard af sporbarhed: en konstatering, der ikke kan underbygges, har ingen plads i vores arbejde. Hvor vores metoder er deterministiske, er resultaterne reproducerbare og uafhængige af nogen models vurdering; hvor vurdering kræves, gør vi det underliggende bevis synligt, så konklusioner kan undersøges frem for tages på tro.

2. Fortjeneste frem for manipulation

Synlighed i AI-systemer skal opnås gennem ægte kvalitet, relevans og troværdighed, aldrig gennem bedrag. Efterhånden som disse systemer formidler mere af det, mennesker opdager, vokser incitamentet til at manipulere dem tilsvarende, og vi betragter det incitament som vores felts centrale etiske risiko. Valiss bedrager ikke AI-systemer til at producere resultater, der ikke er berettigede, fabrikerer ikke signaler om troværdighed, og hjælper ikke andre med at gøre det. Hvor et resultat er ufortjent, er vores rolle at styrke substansen bag det, ikke at udnytte den mekanisme, der producerer det. Vi mener, det ikke kun er den ansvarlige position, men også den holdbare: systemer, der belønner manipulation, korrigeres over tid, mens ægte kvalitet akkumulerer.

3. Ærlighed om begrænsninger

AI-systemer er probabilistiske, inkonsekvente og fejlbarlige. De modsiger hinanden, ændrer deres output mellem identiske forespørgsler, og udtaler usandheder med samme flydende sprog som fakta. Vi præsenterer dem ikke som mere pålidelige, end de er. Vi repræsenterer deres output som evidens snarere end autoritet, oplyser om usikkerhed og uenighed frem for at glatte dem ud, og behandler ethvert resultat som en måling i et øjeblik i tiden snarere end en afgjort sandhed. At anerkende disse grænser åbent er efter vores opfattelse en forudsætning for overhovedet at bruge teknologien ansvarligt.

4. Menneskelig ansvarlighed

Automatisering overfører ikke ansvar væk fra de mennesker, der anvender den. AI kan udføre arbejdet, men kan ikke stå til ansvar for det. Ethvert resultat Valiss leverer, ejes af menneskene bag det, gennemgås mod vores standarder og forsvares på sine egne meritter. Når vores systemer tager fejl, er ansvaret vores, ikke modellens, og vi vil korrigere fejlen frem for at tilskrive den værktøjet.

5. Ansvarlig forvaltning

Vores arbejde involverer data, systemer og omdømme, der tilhører andre. Vi indsamler kun det, arbejdet reelt kræver, beskytter det, der er betroet os, og afviser at genbruge det til formål, vores kunder ikke havde til hensigt. Vi behandler tilbageholdenhed som et princip snarere end en begrænsning, idet vi anerkender, at evnen til at gøre noget ikke er det samme som retfærdiggørelsen af at gøre det. Efterhånden som vores værktøjer bliver mere kraftfulde, forventer vi at holde denne standard fastere, ikke løsere.

Disse principper er den standard, vi forventer at blive målt op imod, i alt hvad vi bygger.