Когда вы находитесь в темном кинотеатре, то ваши реакции на происходящее на экране чаще всего остаются незамеченными другими. Вот вы широко открываете глаза при неожиданном повороте сюжета, буквально подпрыгиваете в кресле от страшной сцены или пускаете слезу под мелодраматичную музыку — все эти эмоции, вероятнее всего, будут направлены не более чем в пластиковую спинку впереди стоящего кресла.
Добавить в моё избранное
7 мин, 25 сек 8985
Однако система также может использоваться и в ситуациях, когда речь в буквальном смысле идет не на жизнь, а на смерть. Например, в медицине, где может потребоваться точно определить уровень боли, испытываемой человеком, чтобы врачи могли подобрать более эффективные средства лечения.
Хамон отмечает, что система может оказаться полезной, например, в ситуациях, когда необходимо определить инсульт. Несмотря на то, что медицинские сотрудники обычно проходят необходимую подготовку, позволяющую им определять признаки инсульта, нередко бывают моменты, когда упускаются так называемые микроинсульты (или транзиторные ишемические атаки, если по-научному), за которыми очень часто следуют масштабные инсульты, поражающие большую площадь мозга. Компьютерное зрение ИИ могло бы определять эти микропризнаки инсульта или даже симптомы или намеки приближающегося заболевания еще до того, как они фактически проявятся у пациента. В таком случае медицинский персонал смог бы своевременно реагировать на ситуацию, и, возможно, даже предпринять шаги, позволяющие избежать дальнейшего развития более серьезного инсульта.
Но будет ли это на самом деле работать? Хамон считает, что это возможно. Исследователь уверен, что ИИ способны стать настолько чувствительными, что будут в состоянии определять такие едва заметные и скоротечные изменения в работе организма. Когда систему проверяли на разных аудиториях, исследователям пришлось принять во внимание факт приема некоторыми людьми предписанных лекарственных средств, некоторые из которых, например, имеют побочные эффекты в виде повышенного давления или едва заметных мышечных судорог. Возможно, человек и не сможет заметить данные изменения у другого человека, однако ИИ без труда их выявит, но в то же время может ошибочно принять эффекты от принятия препарата за проявление стрессовых признаков. Это тоже нужно учитывать.
Так как технологии лицевого распознавания уже начинают проникать в нашу личную жизнь, многие начинают задумываться и уделять больше внимания вопросам этического характера, выражая озабоченность по поводу вероятной предвзятой работы подобных алгоритмов. Та же идея о том, что технологии могут существовать без какой-либо степени вложенных в них предвзятостей, очень спорна. Под серьезное сомнение ее ставит всего лишь один-единственный аргумент: эффективность работы ИИ будет зависит от тех данных, что были в него вложены, и среди этих данных может содержаться информация, которая была изначально окрашена предвзятым отношением человека, который создавал эту систему. С прогрессом разработок ИИ, с созданием машин, которые на самом деле способны обучаться, мы должны разработать ограничительные меры, способные защитить нас от ситуаций, когда эти машины смогут научиться у нас гораздо большему, чем мы намеревались их обучить.
Тем не менее тот же Хамон уверен, что его алгоритм полностью беспристрастен, по крайней мере настолько, насколько это вообще возможно. Его компьютерная система лишь интерпретирует признаки человеческого поведения, независимо от того, какой тип лица или тела находится в его поле зрения.
«Я коренной американец, и следует признать, что здесь иногда происходят вещи, способные накалять окружающую обстановку. Например, вы можете начать нервничать, когда за вашей спиной возникают полицейские. Однако я считаю, что подобные технологии в будущем смогут полностью искоренить этот фактор нервозности. Если вы не делаете ничего плохого, компьютер обязательно оповестит сотрудника полиции, что вы не делаете ничего плохого. Лично я в таком случае буду ощущать повышенный уровень своей собственной безопасности и защиты от полицейского произвола, зная о том, что компьютер сможет осуществлять подобный уровень оценки угроз».
В любом случае Хамон совсем не беспокоится об интерпретировании результатов анализа данных алгоритмом, который он создал. В то же время, несмотря на уверенность в своем алгоритме, он также признает и его ограниченность. Поэтому, если говорить о выводах, составленных на базе анализа, то, по мнению исследователя, это решение лучше оставить на экспертов правоохранительной системы, медицины и психиатрии.
Будущее разработок Хамона в компании Silver Logic Labs только начинается. И варианты сфер применения создаваемого им ИИ ограничены лишь человеческим воображением.
Хамон отмечает, что система может оказаться полезной, например, в ситуациях, когда необходимо определить инсульт. Несмотря на то, что медицинские сотрудники обычно проходят необходимую подготовку, позволяющую им определять признаки инсульта, нередко бывают моменты, когда упускаются так называемые микроинсульты (или транзиторные ишемические атаки, если по-научному), за которыми очень часто следуют масштабные инсульты, поражающие большую площадь мозга. Компьютерное зрение ИИ могло бы определять эти микропризнаки инсульта или даже симптомы или намеки приближающегося заболевания еще до того, как они фактически проявятся у пациента. В таком случае медицинский персонал смог бы своевременно реагировать на ситуацию, и, возможно, даже предпринять шаги, позволяющие избежать дальнейшего развития более серьезного инсульта.
Но будет ли это на самом деле работать? Хамон считает, что это возможно. Исследователь уверен, что ИИ способны стать настолько чувствительными, что будут в состоянии определять такие едва заметные и скоротечные изменения в работе организма. Когда систему проверяли на разных аудиториях, исследователям пришлось принять во внимание факт приема некоторыми людьми предписанных лекарственных средств, некоторые из которых, например, имеют побочные эффекты в виде повышенного давления или едва заметных мышечных судорог. Возможно, человек и не сможет заметить данные изменения у другого человека, однако ИИ без труда их выявит, но в то же время может ошибочно принять эффекты от принятия препарата за проявление стрессовых признаков. Это тоже нужно учитывать.
Мощный инструмент
Многие считают, что разумные машины будут лишены предвзятости, однако не следует забывать: эти машины будут создавать люди, и эти люди, разрабатывающие и взаимодействующие с ИИ, могут неосознанно наделить их своими же предубеждениями. С развитием ИИ последствия от накопления этих предубеждений будут становиться все более выраженными и в конечном итоге могут повлиять на различные процессы информационной обработки, например, при опознании той или иной личности или при сборе социальных данных человека, содержащихся в сетях государственных служб.Так как технологии лицевого распознавания уже начинают проникать в нашу личную жизнь, многие начинают задумываться и уделять больше внимания вопросам этического характера, выражая озабоченность по поводу вероятной предвзятой работы подобных алгоритмов. Та же идея о том, что технологии могут существовать без какой-либо степени вложенных в них предвзятостей, очень спорна. Под серьезное сомнение ее ставит всего лишь один-единственный аргумент: эффективность работы ИИ будет зависит от тех данных, что были в него вложены, и среди этих данных может содержаться информация, которая была изначально окрашена предвзятым отношением человека, который создавал эту систему. С прогрессом разработок ИИ, с созданием машин, которые на самом деле способны обучаться, мы должны разработать ограничительные меры, способные защитить нас от ситуаций, когда эти машины смогут научиться у нас гораздо большему, чем мы намеревались их обучить.
Тем не менее тот же Хамон уверен, что его алгоритм полностью беспристрастен, по крайней мере настолько, насколько это вообще возможно. Его компьютерная система лишь интерпретирует признаки человеческого поведения, независимо от того, какой тип лица или тела находится в его поле зрения.
«Я коренной американец, и следует признать, что здесь иногда происходят вещи, способные накалять окружающую обстановку. Например, вы можете начать нервничать, когда за вашей спиной возникают полицейские. Однако я считаю, что подобные технологии в будущем смогут полностью искоренить этот фактор нервозности. Если вы не делаете ничего плохого, компьютер обязательно оповестит сотрудника полиции, что вы не делаете ничего плохого. Лично я в таком случае буду ощущать повышенный уровень своей собственной безопасности и защиты от полицейского произвола, зная о том, что компьютер сможет осуществлять подобный уровень оценки угроз».
В любом случае Хамон совсем не беспокоится об интерпретировании результатов анализа данных алгоритмом, который он создал. В то же время, несмотря на уверенность в своем алгоритме, он также признает и его ограниченность. Поэтому, если говорить о выводах, составленных на базе анализа, то, по мнению исследователя, это решение лучше оставить на экспертов правоохранительной системы, медицины и психиатрии.
Будущее разработок Хамона в компании Silver Logic Labs только начинается. И варианты сфер применения создаваемого им ИИ ограничены лишь человеческим воображением.
Страница 2 из 3
