Мы много лет мечтали об искусственном интеллекте. От The Jetsons, показывающих нам язвительных робо-горничных до роботов, мечтающих об электрических овцах, до более реалистичных обещаний диагностики роботов в больницах , мы слышали о реалистичном ИИ, который действительно полезен для людей в течение некоторого времени.

По мере того как мы вступаем в эпоху, когда мы видим все больше и больше ИИ в нашей повседневной жизни, мы должны начать изучать юридические последствия этих новых технологий. Будет ли ИИ активом или пассивом? Давайте посмотрим на некоторые проблемы, которые уже разрабатываются.

Погодите, что такое ИИ?

Готовы ли роботы захватить мир? Это Сири? Это военные боты? Это Том Серво и Ворона?

Спорим, ты думал, что я был слишком молод для этой шутки, а? Шутки над тобой, это шоу на Netflix!

AI, или искусственный интеллект, - это способность машины быть «умной». Если это звучит очень широко, это потому, что это так. У нас уже есть машины, которые мы считаем «умными» за их способность делать выбор и оценивать ситуации с помощью сложного программирования.

Концепция искусственного интеллекта часто ассоциируется с машинным обучением , когда машины могут опираться на свое первоначальное программирование и «учиться». На самом деле я объединяю эти два термина в этой статье, чтобы облегчить жизнь моим читателям.

В свою защиту, по крайней мере, я веду себя намеренно.

Если ИИ и машинное обучение позволяют роботам и компьютерным программам быть умными, обучаться, расти и изменять твари, в какой момент мы считаем их достаточно осведомленными, чтобы подслушивать, выступать в качестве «свидетелей» или иметь собственные права?

Алекса вызвана в суд

Мы все делали ставки на то, сколько времени потребуется, чтобы это произошло, не так ли? В ходе продолжающегося судебного разбирательства на стенде была названа Алекса, имя по умолчанию, данное домашнему помощнику Amazon Echo .

Ну ладно, не буквально. Но данные Amazon Echo были вызваны в суд по делу об убийстве . Мысль в том, что если Алекса слушает, возможно, она слышала (и записала) настоящее убийство. Доказательства столь же хороши, как камера видеонаблюдения, и лучше, чем свидетель-человек, в доказательстве преступления, если бы только Amazon раскрыла информацию.

Неудивительно, что Amazon не был в восторге от прецедента, созданного захватом записанной информации Alexa. Таким образом, они борются с ордером , заявляя, что общение с устройством квалифицируется как защищенная речь, а передача записей создаст прецедент, который может привести к нарушению конфиденциальности для пользователей Echo.

А Алекса слушает , если вам интересно, что я имел в виду. Alexa - это командное слово для Amazon Echo и Echo Dot . После команды Echo берет все, что было сказано, и следует данному запросу. Но чтобы услышать командное слово в первую очередь, необходимо включить прослушивание микрофона. Amazon заверяет пользователей, что в облачное хранилище отправляются только командные фразы, но это по-прежнему позволяет нам знать, что Алекса всегда ждет своего имени.

Другими словами, Алекса всегда слушает , но ее имя заставляет ее обратить внимание . Что немного пугает, когда вы думаете об этом, особенно зная, что это пассивное слушание может позволить Алексе подслушать убийство.

Он слышит вас, когда вы спите

Итак, если Amazon Echo всегда, всегда слушает, что это значит для конфиденциальности? Согласно Amazon, Echo не сохраняет и не хранит какую-либо информацию, которая не была передана вместе со словом-триггером «Alexa». Тем не менее, если эхо включено, у него есть возможность слушать - способность, которую потенциально можно было бы включить позже.

Насколько вы доверяете этому обещанию, напрямую зависит от того, насколько вы доверяете Amazon. Когда они говорят, что хотят защитить общение пользователя с Alexa, хотят ли они защитить его ради пользователя или ради себя?

Это одна из самых больших проблем, которые вызывают у многих людей распространение Интернета вещей . По сути, «Интернет вещей» - это система физических объектов, которые связаны друг с другом, а также с Интернетом и могут взаимодействовать с пользователями способом, который мы считаем «умным». Некоторые люди думают, что межсетевое соединение - это здорово, в то время как другие видят в этом технологию, прыгающую через акулу и вторгающуюся в личную жизнь человека.

А некоторые люди просто очень-очень ненавидят IoT ( жесткая формулировка в ссылке). Это справедливо, учитывая, что развитие Интернета вещей увеличивает количество предметов в вашем доме, которые отслеживают, хранят и сохраняют ваши данные до тех пор, пока либо их материнская компания не получит прибыль, либо скучающий хакер не решит запустить Doom на вашем холодильнике .

Но как насчет Алекса? Разве она не имеет права голоса во всем этом? Ответ может быть.

Неловкий момент Айзека Азимова

Если вы такой же мега-ботаник, как я, вы, вероятно, уже знакомы с тремя законами робототехники писателя-фантаста Исаака Азимова. Если нет (или если вы хотите освежиться, не опускаясь к Google), правила следующие:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен подчиняться приказам людей, за исключением случаев, когда такие приказы противоречат Первому закону.
3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.

Эти «законы» взяты из одного из рассказов Азимова и составляют основу большей части противоречий в его творчестве. В своей простой элегантности законы фактически использовались и ссылались на настоящие дизайнеры робототехники, что чертовски круто.

Легко придумывать законы для программирования программного обеспечения, а это действительно все законы Азимова, но все быстро становится беспорядочным, когда это программное обеспечение начинает взаимодействовать с людьми. Итак, вот вопрос: как заставить роботов следовать этим правилам, если они получают свободу воли?

Большой прыжок? Не совсем. Этот конкретный конфликт лежит в основе многих работ Азимова, а также многих произведений научной фантастики в целом. Но на самом деле, как правовая система приблизится к человечеству ИИ?

По крайней мере, один пробный процесс уже задавал этот вопрос.

В 2004 году в Сан-Франциско был проведен инсценированный суд, чтобы определить судьбу BINA48, вымышленного ИИ, принадлежащего вымышленной компании, который мог или не мог успешно прийти в сознание. В этом случае робот, выполнявший работу 1000 агентов по обслуживанию клиентов, обнаружил в переписке компании, что он должен быть отключен. Программа обратилась к адвокату с просьбой о юридической помощи в предотвращении его «смерти».

Хотя концепция кажется футуристической, кто может сказать, что законодательство, необходимое для такого случая, еще не принято? В данном случае вступили в действие законы, касающиеся прав пациентов, обеспечивающих жизнеобеспечение, что является интересным напоминанием о разнообразии ситуаций, которые, казалось бы, когда-нибудь законам о номинальной стоимости, возможно, придется учесть.

Некоторые публикации зашли так далеко, что предполагают, что судебные дела, ориентированные на ИИ, могут быстро превратиться в проблему гражданских прав .

В общем, это все еще вопрос будущего. Тем не менее, права и обязанности ИИ - это то, о чем нужно подумать, прежде чем они станут проблемой.

Какие юридические проблемы с ИИ вы предвидите?

Вас беспокоят права на Siri и Alexa и подобные им программы в будущем? Или вы думаете, что они просто электронные шпионы своих материнских компаний? Может быть, вы просто взволнованы доказательствами, которые они могут помочь собрать будущим юристам. Каким бы ни был ответ, очевидно, что искусственный интеллект связан с множеством юридических проблем.

Расскажите мне, что вы думаете, в комментариях ниже. Подпишитесь на мой список рассылки, чтобы получать больше новостей и обзоров о юридических технологиях, и ознакомьтесь с этими статьями, чтобы получить больше информации, например:

• 15 лучших статистических данных по юридическому маркетингу за 2017 год Подробнее о будущем юридических технологий

• Приложения для юридических консультаций: полезные инструменты или зомби в чате? Прочитать об искусственном интеллекте в действии

• Почему цифровые подписи следует использовать в каждом юридическом отделе Если вам интересно, как еще технологии могут помочь вашей фирме