AI-løsninger reguleres i dag af European AI Act, som har til formål at beskytte borgernes grundlæggende rettigheder, sikkerhed og sikre en etisk forsvarlig brug af AI-systemer. Da brugen af AI i digitale løsninger stadig er relativt nyt, rejser det naturligt en række spørgsmål om datahåndtering, transparens og beslutningsgrundlag.
Hvordan adskiller Pondoo sig fra generativ AI?
Generativ AI har skabt bekymringer, da disse modeller kan håndtere personfølsomme data på uforudsigelige måder, producere beslutninger uden klare forklaringer og i visse tilfælde "hallucinere" – altså generere forkerte eller misvisende svar.
Pondoo anvender derimod Decision Science, en gren af AI, der er baseret på deterministiske matematiske optimeringer fremfor probabilistiske forudsigelser.
Dette betyder, at:
Pondoo ikke er en generativ AI-model og derfor ikke kan "hallucinere" eller levere uforudsigelige beslutninger.
Pondoo håndterer data i traditionelle databaser, hvor data bruges som input til matematiske beregninger, hvilket sikrer forudsigelighed og transparens.
Pondoo beregner en optimal plan frem for at identificere mønstre i historiske data.
Hvordan falder Pondoo ind under EU's AI Act?
Pondoo har sammen med vores juridiske rådgivere konsulteret EU’s EU AI Act Compliance Checker, og resultatet er følgende:
"No obligations. The EU AI Act likely imposes no legal obligations on your AI system. The European Commission may publish a voluntary code of conduct in future that you may be asked to comply with on a voluntary basis. See Article 95 on Codes of Conduct."
I forhold til risikokategorisering har vi udfyldt EU’s officielle compliance checker, som kan tilgås her: AI Act Compliance Checker. Vores system ender i minimal risk-kategorien, hvilket betyder, at der ikke er juridiske forpligtelser i forhold til eksempelvis medarbejdertræning i brugen af systemet.
Transparens i beslutningsstøtte
Selvom Pondoo Besøgsplanlægning ikke direkte falder under de strenge reguleringer i EU’s AI Act, bidrager vores algoritme til at træffe beslutninger om hvilke borgere der besøges hvornår. For at sikre maksimal transparens har vi udviklet oversigter, der viser fordelingen af besøg hos både borgere og medarbejdere. Dette sikrer, at beslutningstagere har fuldt indblik i AI'ens funktion og konsekvenser.
Du kan rekvirere vores besvarelser samt resultatet af vores compliance-check ved at kontakte hello@pondoo.ai.