Ansvarlig KI
Veiledede svar kan støtte forståelse; ansvaret forblir hos mennesker.
Huddle utforsker avgrenset KI-støtte for forklaring og forberedelse, med synlige kilder, usikkerhet, familiekontroll og menneskelig eskalering.
Et avgrenset formål
KI kan organisere informasjon og spørsmål; teknologien skal ikke avgjøre hva som er best for et barn.
En fremtidig assistent kan oppsummere tilbudsdetaljer, sammenligne praktiske krav, hjelpe med spørsmål eller forklare neste steg i en familiestyrt reise.
Den skal ikke diagnostisere, profilere sårbarhet, rangere barn, avgjøre berettigelse, ta sikkerhetsbeslutninger eller oppmuntre til deling av sensitive barneopplysninger.
Kilder og menneskelig ansvar
Hvert nyttig svar skal vise kilde, usikkerhet og vei til et menneske.
Systemet skal skille tilbyderopplysninger, offentlige kilder, familiekontekst og maskinelle slutninger. Manglende eller motstridende informasjon skal være synlig i stedet for å glattes over med falsk sikkerhet.
Spørsmål med høy risiko krever et trygt avslag eller en menneskelig rute. Organisasjonen eller myndigheten som tar en beslutning i virkeligheten, beholder ansvaret for den.
Før offentlig bruk
Definerte oppgaver, datagrenser, evaluering og hendelseshåndtering må finnes før drift.
Offentlig bruk krever godkjente datagrenser, kildehåndtering, evalueringssaker, feilanalyse, loggregler, personverngjennomgang, sikkerhetstesting, menneskelig eskalering og en navngitt tjenesteeier.
Dagens prototype viser bare mønstre for veiledet samhandling. Huddle hevder ikke verifisert nøyaktighet, sikkerhet, klinisk gyldighet eller målte deltakelsesresultater fra KI.
Styring av anbefalinger
En anbefaling må forklare grunnlaget uten å gjøre familien til en skår.
En fremtidig anbefaling skal avgrenses av familiens valgte oppgave, synlige preferanser, tilbyderfakta og oppgitte begrensninger. Familien trenger kontroll til å endre kontekst, se hvorfor et alternativ vises og velge nøytral eller kronologisk visning der det passer.
Betalt påvirkning, institusjonelle prioriteringer og engasjementsoptimalisering skal ikke i det skjulte styre organisk relevans. Det skal ikke finnes skjult skåring av barn, foreldre, familie eller sosial status, og systemet skal ikke hevde å vite hva som er best for et barn.
Pålitelighet og misbruk
Genererte svar må testes for hallusinasjon, manipulasjon og utrygg deling.
Evaluering skal omfatte manglende, utdaterte og motstridende kilder; tvetydige familiespørsmål; flerspråklig innhold; prompt injection i tilbyder- eller brukerinnhold; forsøk på å avsløre systeminstruksjoner eller personopplysninger; utrygge anbefalinger og forespørsler utenfor godkjent oppgave.
Trygg atferd kan være å sitere kilden, vise usikkerhet, stille et oppklarende spørsmål, avslå eller vise videre til et menneske. Flytende språk er ikke bevis på faktisk riktighet, egnethet, juridisk myndighet eller faglig råd.
Menneskelig godkjenning og hendelser
Assistenten kan forberede en handling; en autorisert person må godkjenne viktige steg.
KI skal ikke melde et barn på, sende sensitiv kontekst, gjennomføre kjøp, kontakte en tilbyder, avbestille en tjeneste, avgjøre rettigheter eller sende en institusjonell rapport uten tydelig gjennomgang og bekreftelse fra ansvarlig voksen eller autorisert fagperson. Grensesnittet må vise hva som skjer og hvilke data som forlater husholdningsgrensen.
Før drift trenger Huddle oppgavespesifikke tester, kvalitetsgrenser, versjons- og kilderegister, personvernvennlig logging, overvåking, tilbakeføring, retting, hendelsesansvar og en vei for å stanse funksjonen. Dagens prototypeinteraksjoner fastslår ikke nøyaktighet eller sikkerhet i produksjon.