Родителски напътствия: „изкуствен интелект“, използван за оценяване на детегледачките въз основа на тяхната история в социалните медии
Когато Джеси Баталия започна да търси нова детегледачка за едногодишния си син, тя искаше повече информация, отколкото можеше да получи от престъпна проверка, родителски коментари и интервю лице в лице.
Затова тя се обърна към Predictim, онлайн услуга, която използва „усъвършенстван изкуствен интелект“, за да оцени личността на детегледачка и насочи скенерите си към хилядите кандидати за Facebook, Twitter и Instagram.
Системата предлага автоматизирана "оценка на риска" на 24-годишен кандидат, заявявайки, че е с "много малък риск" да бъде наркозависим. Но тя даде малко по-висока оценка на риска - две от пет - за тормоз, тормоз, „неуважително“ и „лошо отношение“.
Системата не обясни защо е взела това решение. Но Баталия, която вярваше, че детегледачката е достоверна, внезапно усети съмнения.
"Социалните медии показват характера на човек", казва 29-годишната Баталия, която живее близо до Лос Анджелис. - Тогава защо е дошла при двама, а не в един?
Predictim предлага на родителите същата книга, която десетки други технически компании продават на работодателите по целия свят: системи за изкуствено разузнаване, които анализират речта на лицето, изражението на лицето и онлайн историята с обещания за разкриване на скритите аспекти на техния личен живот.
Технологията променя начина, по който някои компании подхождат към наемането, наемането и прегледа на работниците, като предлага на работодателите ненадминат поглед към кандидатите за работа чрез нова вълна от инвазивна психологическа оценка и наблюдение.
Технологичната компания Fama казва, че използва AI в социалните медии на полицейските работници за "токсично поведение" и предупреждава шефовете си. А фирмата за набиране на технологии HireVue, която работи с компании като Geico, Hilton и Unilever, предлага система, която автоматично анализира тонуса на кандидатите, избор на думи и движения на лицето по време на видео интервюта, за да предскаже уменията и поведението си в работата. (Кандидатите се насърчават да се усмихват за най-добри резултати.)
Но критиците твърдят, че Predictim и подобни системи представят своите собствени опасности, като правят автоматични и евентуално решения, които променят живота, практически незабелязани.
Системите зависят от алгоритмите на черната кутия, които дават малко подробности за това как те намаляват сложността на вътрешния живот на човека в изчисляване на добродетел или вреда. И въпреки че технологията на Predictim влияе върху мисленето на родителите, тя остава изцяло недоказана, до голяма степен необяснима и уязвима за тихи предубеждения относно това как една подходяща детегледачка трябва да споделя, да гледа и да говори.
Има една „луда бързаме да се възползваме от силата на ИИ, за да взимаме всякакви решения, без да гарантираме, че е отговорна пред човешките същества“, казва Джеф Честър, изпълнителен директор на Центъра за демократична демокрация, група за техническа защита. - Сякаш хората са пили дигиталната Kool-Aid и мислят, че това е подходящ начин да управляваме живота ни.
Сканите на Predictim анализират цялата история на социалните медии на детегледачка, които за много от най-младите сестри могат да покрият по-голямата част от живота им. И на седящите се казва, че ще бъдат в много неблагоприятно положение за конкурентните работни места, ако откажат.
Ръководителят и съосновател на Predictim Сал Парса заяви, че компанията, която стартира миналия месец като част от Университета на Калифорния в технологичния инкубатор на „Бъркли“ SkyDeck, приема сериозно етичните въпроси за използването на технологията. Родителите, каза той, трябва да видят рейтингите като спътник, който "може или не може да отразява истинските качества на детегледачка".
Но опасността от наемане на проблемна или насилствена детегледачка, добавя той, прави ИИ необходим инструмент за всеки родител, който се надява да запази детето си безопасно.
"Ако търсите злоупотребяващи детегледачки в Google, ще видите стотици резултати точно сега", каза той. "Там има хора, които или имат психично заболяване, или просто са родени зло. Нашата цел е да направим всичко възможно, за да ги спрем."
A Predictim сканиране започва от $ 24, 99 и изисква името на детегледачка и имейл адрес и съгласието си да споделят широк достъп до нейните сметки в социалните медии. Детегледачката може да откаже, но родителят е уведомен за отказа си, а в имейл на детегледачката се казва, че „заинтересуваният родител няма да може да ви наеме, докато не изпълните това искане“.
Ръководителите на Predictim казват, че използват алгоритми за обработка на езици и софтуер за разпознаване на изображения, известен като "компютърно зрение", за да оценят Facebook, Twitter и Instagram публикации на детегледачки за улики за техния офлайн живот. На родителя се предоставя доклад и не се налага да казва на детегледачката резултатите.
Родителите вероятно биха могли сами да разгледат обществените сметки на техните социални медии. Но компютърно генерираните доклади обещават задълбочена проверка на годините на онлайн активност, свеждайки се до една цифра: интоксикативно просто решение на непрактична задача.
Оценките за риска се разделят на няколко категории, включително изрично съдържание и злоупотреба с наркотици. Стартиращата компания също така обяви, че нейната система може да оценява детегледачите на други личностни черти, като учтивост, способност за работа с другите и "позитивност".
Компанията се надява да развие многомилиардната индустрия за "родителски аутсорсинг" и е започнала да рекламира чрез платено спонсорство на родителски и "мумиески" блогове. Маркетингът на компанията се фокусира върху способността му да разкрива скрити тайни и да предотвратява "кошмарите на всеки родител", като цитира наказателни дела, включително и на детегледачка Кентъки, обвинена по-рано тази година с тежко нараняване на осеммесечно момиче.
"Ако родителите на малкото момиченце, пострадало от тази детегледачка, са успели да използват Predictim като част от техния процес на проучване", се казва в маркетингов документ на компанията, "те никога не биха я оставили насаме със своето скъпоценно дете".
Но технологичните експерти твърдят, че системата повдига собствените си знамена, включително притесненията, че се поддава на страховете на родителите да продават сканирания на личността на непроверена точност.
Те също така поставят под въпрос начина, по който се обучават системите и колко уязвими са те за неразбиране на замъглените значения на употребата на социалните медии на седящите. За всички, с изключение на най-рисковите сканирания, на родителите се дава само внушение за съмнително поведение и няма конкретни фрази, връзки или детайли, които да оценяват сами.
Когато сканирането на една детегледачка е било сигнализирано за възможно тормозливо поведение, неспокойната майка, която е поискала това, казва, че не може да разбере дали софтуерът е забелязал стари цитати от филми, песни или други фрази, за разлика от реалния език на тормоза.
Но Predictim все пак казва, че се подготвя за национално разширяване. Ръководителите на Sittercity, онлайн пазар за детегледачки, посетен от милиони родители, заявиха, че ще стартират пилотна програма в началото на следващата година, която ще се сгъне в автоматизираните рейтинги на Predictim в текущия масив от скрининг на сайтове и проверки на фона.
"Намирането на детегледачка може да дойде с много несигурност", казва Сандра Дайнора, ръководител на Sittercity, който вярва, че инструменти като тези скоро могат да станат "стандартна валута" за намиране на грижещите се онлайн. "Родителите винаги търсят най-доброто решение, най-много изследвания, най-добрите факти."
The Washington Post