Етика при анализа на данни

Един от най-известните скандали в областта на науката за данните е изтичането на данни на милиони потребители на Cambridge Analytica и Facebook. Стана ясно, че ежедневната дейност на всеки човек може да стане част от политически игри и манипулации. Оттогава насам въпросите за етиката при анализа на данни все повече се преплитат с т.нар. рекламен парадокс: как да персонализираме дадена услуга или реклама, без да преминем границата и да превърнем събирането на данни в натрапчиво проследяване?

Поверителността на данните е основен параметър на етиката в науката за данните. Потребителите трябва да са сигурни, че личните им данни са защитени и няма да бъдат използвани без тяхното съгласие, твърдят експертите на Емат ЕООД България.

От друга страна, в един разработен ИТ продукт зад всяко решение винаги стои човек, който е взел архитектурно, логическо или бизнес решение. Клиентът трябва да е сигурен, че неговият софтуер, игра, платформа или приложение са защитени от изтичане на информация, хакерски атаки и неоторизиран достъп. Ето защо компания Емат обръща специално внимание на анонимността и сигурността на потребителските данни по време на разработването на софтуер. Нека обсъдим етичните проблеми при анализа на данни и как ги решаваме при разработването на софтуер по поръчка.

Деанонимизация: без име знаете всичко
Възможно е да се идентифицира конкретен потребител с висока точност по косвени признаци, дори ако данните му са анонимизирани. Например това може да стане чрез получаване на „набор от няколко невинни параметъра“ - геолокация, възраст и пол. През 2006 г. американската компания AOL „анонимизира“ заявките за търсене на потребителите и ги публикува за изследователски цели - но по съдържанието на заявките лесно може да се възстанови самоличността им.

Разработчиците на „Емат“ ЕООД първоначално са проектирали архитектурата по такъв начин, че да изключат възможността за обратна идентификация. Използваме диференцирани техники за защита на личната информация, разделяне и криптиране на данните. За клиента на софтуера това означава, че потребителската информация за неговия продукт не може да бъде използвана по разпознаваем начин.

Алгоритмична пристрастност
Моделите за машинно обучение се обучават върху исторически данни и могат да наследят (и да засилят) минали пристрастия. Има случаи, в които алгоритми за човешки ресурси са подценявали кандидати жени или при прогнозиране на нивото на престъпност системата е допускала грешка по отношение на малцинствата. И това не е било грешка в кода, а грешка при обработката на данните.

За да предотврати това да се случи, Emat анализира обучителните извадки, идентифицира дисбалансите, тества моделите и свързва интерпретираните алгоритми.

Нарушаване на неприкосновеността на личния живот без хакерство
Поверителността на личните данни може да бъде нарушена дори законно, ако потребителят не разбира точно за какво се е съгласил. Условията за ползване на услуги често са формулирани объркващо. Например приложение за фитнес може да събира данни за здравето, местоположението и дори за околната среда (чрез достъп до камера и микрофон) - и да ги продава на трети страни.

Нашата компания върви по обратния път, когато разработва нови софтуерни продукти и решения за бази данни. При формирането на техническото задание клиентът: определя целите, необходимия минимум от информация, необходима за постигането им.

Нарушаване на неприкосновеността на личния живот
Сложните модели могат да предскажат дори аспекти на живота, които потребителят не е възнамерявал да разкрие: религиозни възгледи, сексуална ориентация, ниво на доходите. Това повдига етичен въпрос: има ли право компанията да „знае“ неща за потребителя, които той все още не е осъзнал?

Понякога потребителите биват „принуждавани“ да се съгласят с обработката на данни. Дребен шрифт, невидими бутони за отказ, агресивни напомняния - набор от манипулативни техники и объркващи интерфейсни решения вместо честен диалог. За клиента това означава: неговият продукт няма да причини на потребителите безпокойство или раздразнение. Емат ЕООД вярва, че един съвременен софтуерен продукт трябва да ограничава дълбочината на анализа и да включва механизми за контрол от страна на потребителя.

Събиране на излишни данни
Много компании събират много повече данни, отколкото са им необходими. Това се прави умишлено, в случай че данните са необходими в бъдеще. В действителност това увеличава риска от изтичане на данни. А потребителят започва да се съмнява в необходимостта и целесъобразността на подобни искания. Резултатът: клиентът напуска, затваря приложението и го изтрива.

Емат ЕООД предлага етични решения за интерфейси за даване на съгласие. Потребителят може да види какво знае приложението за него и ако е необходимо, може да забрани събирането на данни.

Липса на прозрачност (алгоритми от типа „черна кутия“)
Алгоритмите често работят като „черни кутии“ - дори самите разработчици не винаги могат да обяснят как точно моделът е взел това или онова решение. Това е особено опасно в области като кредитирането, медицината и правосъдието. Отказ на кредит или съмнителна диагноза, поставена от модел, са само две от хилядите възможни ситуации, в които пристрастните алгоритми могат да повлияят на човек и да доведат до сериозни последици.

Съвременните мобилни и уеб приложения могат да събират данни за действията на потребителя, това е технически възможно днес: движения на пръстите по екрана, време между докосванията, гласови команди и дори начина, по който той държи телефона. Емат ЕООД предлага на клиентите си етични решения без „скрити камери“ в интерфейса.

Етиката е удобна
Етичните въпроси при използването на данни и разработването на софтуерни продукти не се решават в последния момент - това не е филтър, който се „налага“ преди пускането на продукта. Специалистите на Emat обсъждат етичните рискове с клиента предварително, още на етапа на задаване на задачата. Например, наистина ли е необходимо да се събират такива данни? Какви вреди може да причини моделът? Как ще се отрази той на потребителите на софтуера?

Уважението към потребителя е вградено в кода от самото начало: от това какви данни събираме до начина, по който обясняваме как работи алгоритъмът. На практика етичните софтуерни продукти са удобни и разбираеми за потребителя на системата. Те не се страхуват да ги инсталират. Те получават добри отзиви. По-лесно се мащабират.