Alexa, чому співробітники дивляться на мої дані?

| | 0 Comments| 11:08 PM
Categories:

Всі говорили про Звіт Bloomberg що працівники Amazon прослуховують голосові записи, створені під час розмови з Alexa. Але Amazon далеко не самотня. Ось як технологічні компанії можуть — і мають — розглядати ці приватні дані, які ви завантажуєте.

Від читання ваших нотаток до переслідування неповнолітніх

Давайте поговоримо про деякі приклади: від співробітників Evernote, які говорять про читання ваших особистих нотаток, до співробітників Google і Facebook, які переслідують людей.

Evernote надав своїм співробітникам дозвіл читайте свої приватні нотатки щоб «Покращити свій досвід» у зміні політики конфіденційності, внесеної в січні 2017 року. Evernote передумав і пообіцяв співробітникам спочатку запитати дозвіл, коли багато користувачів будуть засмучені. Але це ілюструє проблему — Evernote може легко надати своїм співробітникам доступ. І навіть якщо ви поділилися даними з Evernote, сподіваючись, що політика компанії забезпечить її безпеку, компанія може змінити цю політику, коли захоче.
Одного разу Google звільнив інженера з надійності сайту за використання його доступу до серверів Google стежити і шпигувати за кількома неповнолітніми, торкнутися їхніх журналів викликів у Google Voice, отримати доступ до їхніх журналів чату та розблокувати себе у списку друзів одного підлітка. Інженери з надійності сайту мають доступ до всього, тому що це їм потрібне для виконання їхньої роботи — і співробітники можуть виявитися шахраями і зловживати цим доступом, як це зробив цей інженер у 2010 році.
Facebook звільнив інженера з безпеки, який використовував доступ до Facebook стежити за кількома жінками в Інтернеті у 2018 р. Материнська плата повідомила, що інших співробітників звільнено через переслідування своїх колишніх та інші подібні моторошні речі.
Ми рекомендуємо не надавати програмам доступ до вашої електронної пошти. Але якщо ви це зробите, у цих програмах люди можуть читати вашу електронну пошту — незалежно від того, чи надходить вона з Gmail, Outlook.com чи будь-якого іншого облікового запису електронної пошти. The Wall Street Journal повідомляє, що інженери-люди, які працювали в деяких компаніях, відповідальних за ці програми переглядаючи сотні тисяч електронних листів тренувати свої алгоритми.

  30 зображень, які допоможуть вам вибрати сторону

Це не вичерпний список. Колись у Facebook була така помилка відкрив приватні фотографії розробникам додатків і ваш роботодавець може читати свої приватні повідомлення в Slack—іншими словами, вони не такі приватні. Як повідомляється, навіть АНБ довелося звільняти людей за використання державних систем спостереження шпигувати за своїми колишніми. І кожна компанія, яка має ваші дані, передасть їх уряду, коли надійде ордер, як це зробив Amazon Алекса почула подвійне вбивство.

Хмара – це просто чужий комп’ютер

Коли ви використовуєте службу, яка завантажує ваші дані до «хмарної» служби, вона просто зберігає ці дані на серверах компанії. І ця компанія може побачити дані, якщо захоче.

Це досить просто, але повідомлення про те, що співробітники прослуховують наші голосові записи, якось шокують. Можливо, ми всі вважаємо, що даних занадто багато, і люди не можуть їх перевірити, чи, можливо, ми думаємо, що має бути якийсь закон, який забороняє технологічним компаніям дивитися на це. Але, принаймні, у США ми не знаємо жодного закону, який би забороняв компаніям переглядати ці дані — якщо вони чесні про це, можливо, розкриваючи цей факт у документі з умовами обслуговування, який ніхто не читає. .

  Як змінити регістр тексту в PowerPoint

Однак навіть із голосовими помічниками це не тільки Amazon. Як каже сам Bloomberg, навіть Apple, яка зосереджена на конфіденційності, змушує людей слухати записи Siri, щоб допомогти навчити алгоритми, які змушують цих голосових помічників працювати. І Bloomberg каже, що деякі рецензенти Google також слухають записи, зроблені за допомогою пристроїв Google Home.

Законні причини, через які люди можуть переглядати ваші дані

Якщо відкинути страхітливих сталкерів та інших людей, які зловживають своїм доступом, ось кілька вагомих причин, за якими співробітнику компанії, можливо, доведеться перевіряти ваші дані:

Запити уряду: ордер може змусити компанію переглянути ваші дані на предмет чогось релевантного та передати їх уряду
Алгоритми навчання: через те, як працює машинне навчання, алгоритми, що використовуються в програмному забезпеченні, потребують певного впливу людини під час процесу навчання. Ось чому люди слухають записи Alexa і Siri, і саме тому Evernote хотів, щоб люди переглядали ваші нотатки.
Забезпечення якості: компанії можуть перевіряти записи чи інші дані, щоб дізнатися, як працює їхня служба. Навіть якщо ви розмовляєте з роботом, хтось інший може прослухати запис пізніше, щоб побачити, як він пройшов.
Підтримка клієнтів: компанія може запитати дозвіл на перегляд ваших даних, щоб допомогти вам, якщо вам потрібна підтримка. Принаймні, ми сподіваємося, що компанія зробить це лише з вашого дозволу, який можна надати так само легко надсилання твіту, як це було з Google Photos.
Повідомлені порушення: компанія може переглянути ваші дані, щоб переглянути повідомлення про порушення. Наприклад, припустімо, що ви ведете приватну бесіду один на один у Facebook. Якщо інша особа повідомила про переслідування або інше порушення, Facebook перевірить конверсію.

  Що таке відстеження контактів і як воно може боротися з пандемією?

Єдиний спосіб зупинити це: наскрізне шифрування

Все це відбувається через те, як працює Інтернет. Незважаючи на всі розмови про «шифрування» для захисту ваших даних, дані зазвичай шифруються лише тоді, коли вони передаються між вашими пристроями та серверами компанії. Звичайно, дані можуть зберігатися в зашифрованому вигляді на серверах цієї компанії, але таким чином, щоб компанія могла отримати до них доступ. Зрештою, компанії потрібно розшифрувати дані, щоб надіслати їх вам.

Єдиний спосіб запобігти цьому – використовувати наскрізне шифрування або шифрування на стороні клієнта. Це означає, що програмне забезпечення, яке ви використовуєте, буде шифрувати дані на пристроях, які ви використовуєте, зберігаючи лише зашифровані дані на серверах компанії таким чином, щоб компанія не могла отримати до них доступ. Ваші дані будуть вашими.

Але це в багатьох відношеннях менш зручно. Такі служби, як Google Photos, були б неможливими, оскільки вони не могли автоматично виконувати завдання з вашими фотографіями на серверах компанії. Компанії не зможуть «дедуплікувати» дані, і їм доведеться вкладати більше грошей у зберігання. Для голосових помічників вся обробка мала б відбуватися локально, і компанії не могли використовувати голосові дані для кращого навчання своїх помічників.

Якщо ви втратите ключ шифрування, ви більше не зможете отримати доступ до своїх даних — зрештою, якщо компанія зможе знову надати вам доступ до ваших файлів, це означає, що компанія спочатку зможе отримати доступ до ваших файлів.