Відповідальний ШІ
Допоміжні відповіді можуть підтримувати розуміння; відповідальність залишається за людьми.
Huddle досліджує обмежену допомогу ШІ для пояснення й підготовки з видимими джерелами, невизначеністю, контролем родини та людською ескалацією.
Обмежена мета
ШІ може впорядковувати інформацію й питання, але не повинен вирішувати, що найкраще для дитини.
Майбутній асистент може підсумовувати деталі можливості, порівнювати практичні вимоги, допомагати готувати питання або пояснювати наступний крок у шляху під контролем родини.
Він не повинен діагностувати, профілювати вразливість, ранжувати дітей, визначати право на участь, ухвалювати рішення із захисту чи заохочувати розкриття чутливих даних про дітей.
Джерела та людська відповідальність
Кожна корисна відповідь має показувати джерело, невизначеність і шлях до людини.
Система має розрізняти факти надавача, публічні джерела, введений родиною контекст і машинні висновки. Відсутня чи суперечлива інформація повинна залишатися видимою, а не перетворюватися на хибну впевненість.
Питання високого ризику потребують безпечної відмови або звернення до людини. Організація чи орган влади, відповідальні за реальне рішення, зберігають відповідальність за нього.
До публічного використання
До початку роботи мають існувати визначені завдання, межі даних, оцінювання та реагування на інциденти.
Публічне використання потребує затверджених меж даних, роботи з джерелами, сценаріїв оцінювання, аналізу помилок, правил журналювання, перевірки приватності, тестування безпеки, людської ескалації та визначеного власника сервісу.
Поточний прототип показує лише керовані сценарії взаємодії. Huddle не заявляє перевіреної точності, безпеки, клінічної валідності чи виміряних результатів участі завдяки ШІ.
Управління рекомендаціями
Рекомендація має пояснювати свої підстави, не перетворюючи сім’ю на рейтинг.
Майбутня рекомендація має обмежуватися вибраним завданням сім’ї, видимими уподобаннями, фактами провайдера та зазначеними умовами. Сім’ї потрібен контроль для зміни контексту, пояснення появи варіанта й вибору нейтрального або хронологічного перегляду, де це доречно.
Оплачений вплив, інституційні пріоритети й оптимізація залучення не повинні приховано визначати органічну релевантність. Не може бути прихованого рейтингу дитини, батьків, сім’ї чи соціального рейтингу, і система не повинна заявляти, що знає, що найкраще для дитини.
Надійність і зловживання
Згенеровані відповіді потрібно тестувати на галюцинації, маніпуляцію та небезпечне розкриття.
Оцінювання має охоплювати відсутні, застарілі й суперечливі джерела; неоднозначні сімейні питання; багатомовний контент; prompt injection у матеріалах провайдера чи користувача; спроби розкрити системні інструкції або персональні дані; небезпечні рекомендації та запити поза затвердженим завданням.
Безпечною поведінкою може бути цитування джерела, показ невизначеності, уточнювальне питання, відмова або передача людині. Плавна мова не доводить фактичну точність, придатність, юридичні повноваження чи професійну пораду.
Людське схвалення й інциденти
Асистент може підготувати дію; важливі кроки має схвалити уповноважена людина.
ШІ не повинен записувати дитину, передавати чутливий контекст, здійснювати покупку, контактувати з провайдером, скасовувати послугу, визначати право на допомогу чи подавати інституційний звіт без чіткого перегляду й підтвердження відповідального дорослого або уповноваженого фахівця. Інтерфейс має показувати, що станеться і які дані вийдуть за межі домогосподарства.
До роботи Huddle потребує тестів для конкретних завдань, порогів якості, записів версій і джерел, журналювання з урахуванням приватності, моніторингу, відкату, виправлення, відповідального за інцидент і маршруту зупинки функції. Поточні взаємодії прототипу не підтверджують продуктивної точності чи безпеки.