Управление Cookies
Emat EOOD, на когото се отнася тази политика ("Emat", "ние", "нашата", "нас"), се стреми да защити поверителността и сигурността на вашата лично идентифицируема информация. Препоръчваме ви да прочетете внимателно тази политика за cookies ("Политика"), заедно с Политиката ни за поверителност, така че да сте информирани как, къде и защо използваме вашата лична информация.

Тази Политика се отнася до всички лица, посещаващи нашия уебсайт и до цялата информация, която се събира чрез cookies. Прочетете още...
Управление Cookies
Настройки Cookies
Cookies позволяват на нашите уебсайтове да запомнят информация, която променя начина, по който сайтът се държи или изглежда, като например вашия предпочитан език или регион, в който се намирате. Запомнянето на вашите предпочитания ни позволява да персонализираме и показваме реклами и друго съдържание за вас.
Основни Cookies
Винаги активни. Тези cookies са от съществено значение, за да можете да използвате уебсайта и функциите му. Те не могат да бъдат изключени. Те се задават в отговор на заявки, направени от вас, като настройване на предпочитанията за поверителност, влизане в системата или попълване на формуляри.
Анализи Cookies
Disabled
Можем да използваме cookies, за да разберем по-добре как хората използват нашите продукти / услуги, така че да можем да ги подобрим.
Реклама Cookies
Disabled
Използваме cookies, за да направим рекламата по-занимателна за нашите потребители. Някои общи приложения на cookies са свързани с избора на реклами, основани на това, което е важно за вас, подобряване на отчетите за ефективността на кампаниите и избягване на показването на реклами, които вече сте видели. Cookies събират информация за начина, по който взаимодействате с нашия уебсайт, включително със страници, които най-често посещавате.
Сигурност/Оптимизация Cookies
Disabled
Cookies ни позволяват да поддържаме сигурността, като удостоверяваме потребителите, предотвратяваме измамата с удостоверения за влизане и защитаваме данните на потребителите от неоторизирани страни. Можем да използваме определен тип cookies, които ни позволяват да блокираме множество видове атаки, като например опити за открадване на съдържание от формулярите на нашия уебсайт.

Етика при анализа на данни

Penetration audit by Emat EOOD it company
Един от най-известните скандали в областта на науката за данните е изтичането на данни на милиони потребители на Cambridge Analytica и Facebook. Стана ясно, че ежедневната дейност на всеки човек може да стане част от политически игри и манипулации. Оттогава насам въпросите за етиката при анализа на данни все повече се преплитат с т.нар. рекламен парадокс: как да персонализираме дадена услуга или реклама, без да преминем границата и да превърнем събирането на данни в натрапчиво проследяване?

Поверителността на данните е основен параметър на етиката в науката за данните. Потребителите трябва да са сигурни, че личните им данни са защитени и няма да бъдат използвани без тяхното съгласие, твърдят експертите на Емат ЕООД България.

От друга страна, в един разработен ИТ продукт зад всяко решение винаги стои човек, който е взел архитектурно, логическо или бизнес решение. Клиентът трябва да е сигурен, че неговият софтуер, игра, платформа или приложение са защитени от изтичане на информация, хакерски атаки и неоторизиран достъп. Ето защо компания Емат обръща специално внимание на анонимността и сигурността на потребителските данни по време на разработването на софтуер. Нека обсъдим етичните проблеми при анализа на данни и как ги решаваме при разработването на софтуер по поръчка.
Деанонимизация: без име знаете всичко
Възможно е да се идентифицира конкретен потребител с висока точност по косвени признаци, дори ако данните му са анонимизирани. Например това може да стане чрез получаване на „набор от няколко невинни параметъра“ - геолокация, възраст и пол. През 2006 г. американската компания AOL „анонимизира“ заявките за търсене на потребителите и ги публикува за изследователски цели - но по съдържанието на заявките лесно може да се възстанови самоличността им.

Разработчиците на „Емат“ ЕООД първоначално са проектирали архитектурата по такъв начин, че да изключат възможността за обратна идентификация. Използваме диференцирани техники за защита на личната информация, разделяне и криптиране на данните. За клиента на софтуера това означава, че потребителската информация за неговия продукт не може да бъде използвана по разпознаваем начин.

Алгоритмична пристрастност
Моделите за машинно обучение се обучават върху исторически данни и могат да наследят (и да засилят) минали пристрастия. Има случаи, в които алгоритми за човешки ресурси са подценявали кандидати жени или при прогнозиране на нивото на престъпност системата е допускала грешка по отношение на малцинствата. И това не е било грешка в кода, а грешка при обработката на данните.

За да предотврати това да се случи, Emat анализира обучителните извадки, идентифицира дисбалансите, тества моделите и свързва интерпретираните алгоритми.

Нарушаване на неприкосновеността на личния живот без хакерство
Поверителността на личните данни може да бъде нарушена дори законно, ако потребителят не разбира точно за какво се е съгласил. Условията за ползване на услуги често са формулирани объркващо. Например приложение за фитнес може да събира данни за здравето, местоположението и дори за околната среда (чрез достъп до камера и микрофон) - и да ги продава на трети страни.

Нашата компания върви по обратния път, когато разработва нови софтуерни продукти и решения за бази данни. При формирането на техническото задание клиентът: определя целите, необходимия минимум от информация, необходима за постигането им.

Нарушаване на неприкосновеността на личния живот
Сложните модели могат да предскажат дори аспекти на живота, които потребителят не е възнамерявал да разкрие: религиозни възгледи, сексуална ориентация, ниво на доходите. Това повдига етичен въпрос: има ли право компанията да „знае“ неща за потребителя, които той все още не е осъзнал?

Понякога потребителите биват „принуждавани“ да се съгласят с обработката на данни. Дребен шрифт, невидими бутони за отказ, агресивни напомняния - набор от манипулативни техники и объркващи интерфейсни решения вместо честен диалог. За клиента това означава: неговият продукт няма да причини на потребителите безпокойство или раздразнение. Емат ЕООД вярва, че един съвременен софтуерен продукт трябва да ограничава дълбочината на анализа и да включва механизми за контрол от страна на потребителя.

Събиране на излишни данни
Много компании събират много повече данни, отколкото са им необходими. Това се прави умишлено, в случай че данните са необходими в бъдеще. В действителност това увеличава риска от изтичане на данни. А потребителят започва да се съмнява в необходимостта и целесъобразността на подобни искания. Резултатът: клиентът напуска, затваря приложението и го изтрива.

Емат ЕООД предлага етични решения за интерфейси за даване на съгласие. Потребителят може да види какво знае приложението за него и ако е необходимо, може да забрани събирането на данни.

Липса на прозрачност (алгоритми от типа „черна кутия“)
Алгоритмите често работят като „черни кутии“ - дори самите разработчици не винаги могат да обяснят как точно моделът е взел това или онова решение. Това е особено опасно в области като кредитирането, медицината и правосъдието. Отказ на кредит или съмнителна диагноза, поставена от модел, са само две от хилядите възможни ситуации, в които пристрастните алгоритми могат да повлияят на човек и да доведат до сериозни последици.

Съвременните мобилни и уеб приложения могат да събират данни за действията на потребителя, това е технически възможно днес: движения на пръстите по екрана, време между докосванията, гласови команди и дори начина, по който той държи телефона. Емат ЕООД предлага на клиентите си етични решения без „скрити камери“ в интерфейса.

Етиката е удобна
Етичните въпроси при използването на данни и разработването на софтуерни продукти не се решават в последния момент - това не е филтър, който се „налага“ преди пускането на продукта. Специалистите на Emat обсъждат етичните рискове с клиента предварително, още на етапа на задаване на задачата. Например, наистина ли е необходимо да се събират такива данни? Какви вреди може да причини моделът? Как ще се отрази той на потребителите на софтуера?

Уважението към потребителя е вградено в кода от самото начало: от това какви данни събираме до начина, по който обясняваме как работи алгоритъмът. На практика етичните софтуерни продукти са удобни и разбираеми за потребителя на системата. Те не се страхуват да ги инсталират. Те получават добри отзиви. По-лесно се мащабират.

Вижте нашите други новини
    Информация
    Emat EOOD
    България, София 1404, Столична община,
    район Триадица, ул. Ясна Поляна 110