Category: технологии

Category was added automatically. Read all entries about "технологии".

Голос

В Википедии про похожего на большой хозяйственный пылесос робота R2-D2 из «Звездных войн» Джорджа Лукаса написано так, цитирую: «запрограммированная мужская личность». Почему авторы статьи решили, что разговаривающий странной морзянкой железный бак это именно мужская личность не очень понятно. Но зато в новое время создателям «Звездных войн» стало понятно, что это может превратиться в проблему.

Поэтому они создали запрограммированную женскую личность — робота L3-37, по-библейски собранного из деталей старого астромеханика.

И если вы спросите: зачем роботу гендер? — то теперь ответ на этот вопрос обоснован научно. Научный журнал Psychology and Marketing — есть, оказывается, и такой — опубликовал исследование, согласно результатам которого люди относятся к роботам, говорящим женскими и мужскими голосами по-разному. Даже если они говорят одно и то же, потому что это один и тот же робот.

Женский голос робота назвали Оливия, а мужской — Оливер. И выяснилось, что Оливию, то есть — робота с женским голосом — респонденты считают более отзывчивым и добрым, чем Оливера. Или отзывчивой и доброй? Не знаю. Робот-то один и тот же.

Но самое удивительное вовсе не это. Вернее даже так — ничего удивительного в том, что люди считают женский голос более отзывчивым и добрым нет. Но новые времена требуют новых подходов. И авторы исследования делают такой вывод, послушайте: у робота не должно быть пола. Потому что иначе, цитирую: «программы могут неумышленно продолжить продвигать идею, что женщина требуется лишь для удовлетворения потребностей и является своеобразным инструментом». Понимаете? Ну, люди будут выбирать женский голос для голосового ассистента своего телефона, потому что им приятнее его слышать. А это — чистой воды объективация и сексизм.

Ну хорошо, новые времена уже здесь и от них не уйти.

Но кто бы объяснил мне, как может быть голос, который не мужской и не женский?

Женщину можно переодеть в мужчину, можно даже хирургически переделать. Ее можно научить говорить мужским голосом и наоборот.

Но слушатель-то все равно будет слышать или женский, или мужской голос! Просто потому что других не бывает!

Ну, разве что голосовые ассистенты будут разговаривать обезличенной морзянкой, как R2-D2 из «Звездных войн».

Только тогда ее надо выучить.

Originally published at <KONONENKO.ME/>. You can comment here or there.

Parole, parole

56 лет назад основатель компании Intel Гордон Мур сформулировал эмпирический закон, согласно которому количество транзисторов на кристалле микропроцессора удваивается каждые два года.

Но, как выяснилось впоследствии, удваивается не только количество транзисторов в микропроцессоре. Удваивается объем памяти компьютера, которую надо чем-то заполнять. Удваивается количество точек на экране компьютера, которые надо чем-то зарисовывать. Удваивается количество пикселей на матрицах цифровых фотокамер, снимки с которых надо хранить на удваивающихся дисках. А всё это требует электричества, отведения тепла и неизбежно приближает тепловую смерть Вселенной.

Впрочем, об этом я вам рассказывал уже много раз. А вот о чем я вам еще не рассказывал — впрочем, это не точно — так это о том, что Литературный институт имени Горького, в котором я учился в середине девяностых, каждый год выпускает примерно сто писателей и поэтов. И пусть у них в дипломах указана специальность «литературный работник», но сами-то они себя ощущают именно поэтами и писателями.

Еще несколько лет назад эта ситуация приводила меня в состояние полного непонимания: как все эти ежегодные профессиональные писатели и поэты поместятся в великую, но не такую уж и объемную русскую литературу.

Но, как оказалось впоследствии, всё еще хуже. Закон Мура пришел и в нашу профессию.

Как сообщают исследователи всего самого важного, только лишь один самый популярный в мире текстовый искусственный интеллект GPT-3 генерирует, внимание, ЧЕТЫРЕ С ПОЛОВИНОЙ МИЛЛИАРДА СЛОВ В ДЕНЬ. Это, еще раз внимание, в девять тысяч раз больше, чем слов в Библии. То есть, экспериментальное доказательство хрестоматийной теоремы о бесконечных обезьянах, которые рано или поздно напечатают любой заданный текст, обрело уже зримые очертания.

А ведь все эти четыре с половиной миллиарда слов в день, которые, разумеется, никто не читает, ибо всё это прочитать невозможно, надо, разумеется, где-то хранить. Потому что они, как и любые другие разговоры с роботами, цитирую: «могут быть записаны». А там всё сначала: серверы, диски, тепло, смерть Вселенной.

И только представьте себе, когда этот коллективный безумный профессор придумает искусственный интеллект, который будет производить даже не сам себя, нет. А что-нибудь живое. С инстинктом размножения.

Так и подумаешь: может, не столь уж и неправа была инквизиция?

Originally published at <KONONENKO.ME/>. You can comment here or there.

Из говна печеные

Новости про искусственный интеллект сыпятся, как из рога изобилия. Кажется, ученые только и думают, чему бы еще обучить на больших наборах данных свои нейронные сети. А обучить можно как хорошему, так и плохому. Причем плохому необязательно обучать специально. Все помнят знаменитый чат-бот от корпорации Microsoft, который обучался на сообщениях своих подписчиков. И в считанные дни воспринял от них идеи нацизма, человеконенавистничества и всего такого. Нет, подписчики вовсе не исповедовали все эти плохие идеи. Они просто ставили ответный эксперимент.

Теперь же ученые объявляют о том, что искусственный интеллект научился выдвигать, внимание, гипотезы. То есть, делать то, что всегда было непререкаемым достоянием разума. Пока только в узких областях математики — но, тем не менее, это гипотезы. Искусственный интеллект их формулирует и ищет им доказательства. То есть, делает то, что раньше делали ученые с университетским образованием, желающие получить ученую степень.

А вот вам еще новость: ученые заявили, что искусственный интеллект, ранее использовавшийся для написания статей в газету The Guardian, внезапно проявил способность писать студенческие курсовые работы. Не идеальные, на троечку — но все таки настоящие курсовые работы, за которые ставят зачет. Ну, как любая статья в газете The Guardian.

И вот вам еще вишенка на торт: в текстовом редакторе Word уже в этом месяце появится функция, внимание, предсказывающая текст, который вы хотели бы написать.

А теперь просто представьте себе, как радикально в ближайшие месяцы изменится рынок вот этого вот всего. Ведь раньше как было? Студент или школьник набирал в поисковой системе слова «курсовая на такую-то тему». После чего скачивал найденный текст и отдавал на проверку под собственным именем. А учитель, проверяя работу, набирал в поисковой системе те же самые слова и сравнивал.

И даже специальные эксперты в организациях по борьбе с плагиатом искали в диссертациях чиновников и депутатов совпадения с другими диссертациями.

Что теперь будут делать все эти мракоборцы, если даже общедоступный Word будет предсказывать тексты, которые вы хотели бы написать? Основываясь, разумеется, на том, что вы писали до этого. А уж искусственному интеллекту, который не только производит уникальные тексты, но еще и может, снова внимание, самостоятельно поставить научную задачу и решить ее — тут вообще нечего противопоставить.

Как и объяснить человечеству, зачем теперь нужны все эти британские ученые. И кому мы теперь будем вручать Шнобелевские премии.

Originally published at <KONONENKO.ME/>. You can comment here or there.

У природы нет плохой погоды

В третьему десятилетию третьего тысячелетия человечество достигло многого. Оно синтезирует противовирусные вакцины практически из пустоты. Выделяет ДНК мамонта, павшего более миллиона лет назад. Создает материалы, заряжающие смартфоны от тепла человеческого тела.

Искусственный интеллект научился записывать ноты, глядя на руки играющего музыканта, оповещать о цунами до его возникновения и даже манипулировать человеческим поведением.

Но вот чего искусственный интеллект вместе с лучшими умами человечества не смог — так это вспомнить, что погода весьма переменчива. И что если решаешь перевести всю свою энергетику на возонобновляемые источники, как то: солнечные батареи, ветряные генераторы и всё такое — то однажды непременно сложатся такие условия, когда всё это перестанет работать в силу природных причин. Ну, просто потому, что все эти источники возобновляемой энергии от природы зависят.

— А мужики-то не знали! — удивляются теперь политики самых прогрессивных стран мира, пошедших на поводу у обещаний зеленых партий.

Поверьте, мужики-то как раз всё это знали. Недаром в тех странах, где нет никаких зеленых партий, с электроэнергией и теплом сейчас всё в порядке. Может, с политическим и гендерным многообразием в них не очень — но зато тепло и светло. А тут уж пусть каждый сам выбирает, что ему важно.

Между тем на фоне мирового кризиса возобновляемой энергии цены на источники невозобновляемой энергии растут. Уголь дорожает, газ дорожает, нефть тоже. Европа с помощью России эту зиму переживет, а вот дальше ей придется подумать — стоит ли вся эта игра ее результатов. В Германии, например, где до того, как всё замерзло, половина энергии генерировалась с помощью возобновляемых источников, сейчас самое дорогое электричество в Европе. В переводе на наши деньги они платят за киловатт-час, внимание, 33 рубля.

Что касается США, то им помощи ждать неоткуда. Они только что выбрали себе президента, который пообещал вложить в замерзающие ветряки 2 триллиона долларов. С тем, чтобы к 2035 году страна полностью перешла на зеленую энергетику.

Ну что же, у природы нет плохой погоды.

Каждая погода — благодать.

Вопрос только в том — для кого.

Originally published at <KONONENKO.ME/>. You can comment here or there.

По лицу видно

Совсем немного времени остается до инаугурации 46-го президента США. Которая, судя по всему, будет проходить в режиме чрезвычайной ситуации. Дабы сторонники 45-го президента США не помешали торжеству демократии, крупнейший сервис онлайн-аренды заведомо заявил о том, что не будет заключать сделки со сторонниками республиканцев. Разумеется, немедленно возник вопрос: а как именно отличить республиканца от демократа при заключении онлайн-сделки?

И на этот вопрос тут же нашелся ответ. В Стэнфордском университете была разработана нейронная сеть, которая может определить политические взгляды человека по фотографии с вероятностью больше 70 процентов. То почти на 20 процентов больше, чем точность, которой политические взгляды по фотографии может определить человек.

И это, согласитесь, открывает перед человечеством невиданные ранее перспективы.

И я тут даже не о том, что с новой технологией сбор идеального митинга или создание идеального рабочего коллектива теперь задача чисто техническая. И даже не о том, что проверять политические взгляды по фотографии можно даже в приложении для знакомств еще до этого самого знакомства. Ну, чтобы не было никаких недопониманий.

Да, это всё очевидно. Но ведь если человек научился определять по фотографии политические предпочтения — то, значит, он может научиться определять по фотографии всё, что угодно. Сексуальную ориентацию, например. Многие считают, что ее и так видно, без всякого искусственного интеллекта — а я вот, например, на взгляд определять не умею. Не то чтобы для меня это было важно — но все равно не умею. Ну ладно там ориентация. А ведь наверняка можно обучить нейронную сеть определять потенциальную супружескую верность! Вы представляете, какие крепкие семьи могли бы получиться в результате применения такой технологии!

Дальше, конечно, возникает естественный следующий вопрос. А именно: можно ли по фотографии определить, будет ли человек воровать или нет Еще до того, как он станет каким-нибудь завхозом 2-го дома Старсобеса. А еще интереснее даже не то, ворюга ли он вообще. А именно то, не станет ли он воровать именно после того, как станет завхозом.

Впрочем, тут мы уже вступаем на опасную стезю обобщений. Разумеется, технология, способная отличить сторонника Трампа от сторонника Байдена будет запущена. Разумеется, любая другая подобная технология нет.

Ну, чтобы не помешать демократии.

Originally published at <KONONENKO.ME/>. You can comment here or there.

Десять лет и один год

Для человека, который работает в текущем новостном контексте, информационная картина мира представляет собой калейдоскоп событий, различить в котором что-то отдельное невозможно. Работающий с новостями человек не помнит, что было вчера. Что уж тут говорить за целый год.

Так начиналась моя реплика, приуроченная к концу прошлого, 2019 года. Я посвятил ее итогам уходящего десятилетия, а сегодня, в поисках вдохновения, перечитал. И, удивительно, но главными итогами завершившегося в прошлом году десятилетия стали вот какие технические достижения. Во-первых, широкополосный интернет в кармане каждого человека. Во-вторых, обыденность персональной видеосвязи. В третьих, мир картинок, победивших книги — то есть, удаленное образование. В четвертых — удаленная доставка всего, что захочется. И, как главный, интегральный итог всего перечисленного — восторжествовавшая дистанционность.

Год назад это был, конечно, довольно футурологический анализ. И кто бы мог подумать, что всего через несколько недель человечество столкнется с ситуацией, в которой все эти умозрительные достижения, скажем так, не для всех, станут жизненно необходимыми абсолютно для всех. И как после всего этого не уверовать в божественное провидение. Человечество десять лет готовилось к тому, чтобы встретить пандемию коронавируса подготовленным если не с медицинской, то хотя бы с бытовой точки зрения. А может и с медицинской тоже — ведь с достижениями генетического моделирования мы в повседневности сталкиваемся не так часто, как с достижениями цифровых технологий. Зато минимальные сроки разработки вакцины от коронавируса как бы говорят нам о том, что и в этой области прошедшие десять лет не стали для всех нас потерянными.

И здесь мы сталкиваемся с диалектическим противоречием. С одной стороны, технологии позволили нам противостоять пандемии и приспособиться к активному сосуществованию с ней. С другой стороны, если бы не технологии — то и не было бы никакой пандемии. Ее не было бы без авиаперелетов, без мест большого скопления людей, без развитой индустрии туризма и путешествий. И — кто знает — может и самого вируса без технологий бы не было. Хотя тут я вступаю на скользкую стезю ничем не подтвержденных предположений.

Вот и думай после всего этого — технологии это хорошо или плохо?

Впрочем, мой ответ — хорошо.

Потому что пандемия уйдет, а всё, что мы создали за ушедшие десять лет и радикально улучшили за уходящий год останется.

И мы продолжим всем этим пользоваться.

Originally published at <KONONENKO.ME/>. You can comment here or there.

Бесконечность прогресса

В полном соответствии с диалектическим законом о переходе количества в качество, собранные человечеством большие наборы данных начинают отдавать нам множество интереснейшей информации. Было бы о чем эти большие наборы данных спросить. А идей со временем возникает всё больше и больше.

Например, немецкие ученые создали нейросеть, способную определять пищевую ценность блюда по фотографии. Причем не только калорийность, но и содержание белков, жиров и углеводов. То есть теперь любой человек, озабоченный тем, что он потребляет, может проверить фотографию блюда, опубликованную на сайте ресторана — соответствует ли его калорийность тому, что указано в меню. Впрочем, подобная же технология позволит рестораторам занижать калорийность блюда путем замены одних продуктов на другие. На фотографии-то не отличить. Ну, то есть, человеку не отличить. А нейросеть различит что угодно.

А вот еще более интересная штука. Китайские ученые разработали искусственный интеллект, который может распознавать, внимание, сарказм. Один из главных героев сериала «Теория большого взрыва» не умел различать сарказм, будучи человеком. А теперь его может различать робот. Но самое интересное в сообщении об этом изобретении вот что, цитирую: «Умение распознавать сарказм позволит машине, например, делать глубокий анализ общественного мнения. Для этого будет достаточно послушать то, о чем говорят люди».

Вы представляете себе, насколько далеки могут быть последствия такого изобретения. Ну, то есть, искусственного интеллекта, который может делать глубокий анализ общественного мнения просто слушая, что говорят люди.

Во-первых, прощай социология. Во-вторых, прощай политологи и аналитики. А в-третьих, здравствуйте новые, невиданные ранее методики воздействия на принимающих решение начальников путем ведения обманывающих искусственный интеллект разговоров. Ну как в театре для того, чтобы создать шум толпы, актеры массовки все время повторяют фразу: «Что говорить, когда нечего говорить?» Так и тут можно придумать что-то вводящее в заблуждение, как фотография блюда на сайте ресторана. И все время ее бормотать.

И следующее, над чем должны работать ученые — это распознавание даже не сарказма, а таких вот поддельных разговоров с целью ввести искусственный интеллект в заблуждение.

А также, конечно, над распознаванием поддельных фотографий блюд на сайтах ресторанов.

Потому что прогресс бесконечен.

Originally published at <KONONENKO.ME/>. You can comment here or there.

Обознатушки

Неумолима тяжелая поступь науки. Самые амбициозные проекты и самые современные технологии проникают в самые, казалось бы, консервативные уголки обыденной человеческой жизни.

Министерство внутренних дел, например, собирается внедрить систему искусственного интеллекта, способную выявлять признаки серийных и взаимосвязанных преступлений. А также нейросеть, способную определить внешность преступника по частицам биоматериалов, полученных на местах преступлений.

Ну что же, цифровая трансформация федеральных ведомств неизбежна, ибо она необходима. И внедрение новых технологий в органы следствия можно только приветствовать.

Но вместе с тем хотелось бы и каких-нибудь успокаивающих заверений. На днях только один человек написал на Фейсбуке, как его задержали в одном из московских супермаркетов по обвинению в систематическом воровстве алкоголя. Потому что он очень похож на преступника, которого сняла камера. С такими же темными волосами, в такой же медицинской маске и с бородой. Несмотря на все заверения попавшего под лошадь горожанина в том, что это не он, охрана магазина препроводила его в отделение полиции. Где полицейские, в желании повысить свою раскрываемость, с энтузиазмом принялись, как говорится, угрожать фигуранту словами. Шесть часов жизни потерял этот человек прежде, чем всё разъяснилось. И его, наконец, отпустили. А уж сколько он потерял нервов и веры в человечество — не сосчитаешь.

А теперь представьте себе, что вас задерживают не за кражу алкоголя из супермаркета, а по подозрению в совершении серийных убийств. Тут одними нервами и верой никак не отделаешься. Тут наверняка не обойдется без членовредительства. А потом вдруг окажется, что вы просто похожи на фоторобот, составленный нейросетью. Потому что нейросеть ничего не выдумывает из головы. Она просто комбинирует кусочки гигантских объемов данных, в данном случае — изображений. Среди которых может быть, в том числе, и ваше изображение. Да и вообще разнообразие человеческих лиц сильно преувеличено — антропологических типов не так уж и много.

Вот и хотелось бы услышать от органов внутренних дел, что результаты работы искусственного интеллекта и составляющих его нейросетей будут проверяться самыми консервативными методами.

Причем настолько пристально и столько раз, чтобы приблизить к нулю вероятность того, что невиновный человек попадет под спецназ.

Originally published at <KONONENKO.ME/>. You can comment here or there.

Консервативность

Человек — существо крайне консервативное. Сопротивляемость человека всему по-настоящему новому такова, что даже борьба за самые, казалось бы, прогрессивные нормы социальной справедливости всё равно напоминает обычные погромы, известные уже сотни лет.

Вот взять, к примеру, 18 марта 2018 года. В этот день около 10 часов вечера в городе Темпи, штат Аризона, США, беспилотный автомобиль компании Uber наехал на пешехода с велосипедом. 49-летняя Элейн Хёзберг стала первым в мире человеком, потерявшим жизнь под колесами робота, самостоятельно принимающего решения. Первый закон робототехники, сформулированный Айзеком Азимовым еще 78 лет назад, оказался нарушен. Робот причинил вред человеку.

И сразу же возник закономерный вопрос: а кому отвечать? Изначально полиция была не склонна обвинять вообще кого бы то ни было. Женщина с велосипедом неожиданно появилась на дороге, выйдя из тени на освещенную проезжую часть в не предназначенном для этого месте.

Но человек крайне консервативен. И если кто-то погиб под колесами средства повышенной опасности — значит, кто-то должен ответить.

И вот, наконец, предъявлено обвинение. Вы не поверите, кому — человеку, сидевшему в беспилотном автомобиле. И не управлявшему им. Прокуратура считает, что этот человек виновен, потому что за несколько секунд до столкновения смотрел в экран своего телефона. И это — преступная невнимательность.

Но погодите. А зачем вообще нужен беспилотный автомобиль, если его пассажир должен постоянно следить за дорогой? Ну хорошо, допустим, это был экспериментальный автомобиль. И его пассажир назывался оператором именно потому, что он должен был следить за дорогой. Но в деле нет ничего о том, мог ли этот оператор предотвратить столкновение, даже если бы управлял автомобилем. Потому что, напомню, погибшая неожиданно появилась на дороге в неположенном месте.

Понимаете? Оператора автомобиля-робота сейчас будут судить не за то, что он убил человека. А за то, что он смотрел в телефон в то время, когда робот убивал человека. А создатель робота, который принял неверное и трагическое решение, никаких обвинений не предъявляется.

И, поверьте, я это не к тому, что знаю, кто именно виноват. Я это к тому, что человек крайне консервативен.

И вряд ли сядет в беспилотный автомобиль, если существует ненулевая вероятность быть обвиненным в аварии, которую этот автомобиль совершит.

Originally published at <KONONENKO.ME/>. You can comment here or there.

Этические принципы

Люди искусства редко разговаривают с публикой от своего имени. Обычно рукой настоящего художника движет что-то другое. Кто-то считает, что провидение. Кто-то — что сам Господь. Потому что никак иначе не объяснить точные предсказания будущих событий, изобретений и даже постановлений правительства.

Еще в 1942 году родившийся в советской России американский писатель Айзек Азимов сформулировал три закона робототехники — отрасли, которой тогда, 78 лет назад, вообще не существовало. Первый в мире настоящий компьютер заработал только спустя четыре года, что уж там про роботов говорить!

Тем не менее, законы, сформулированные до появления всякой робототехники, оказались настолько удачными, что до сих пор кочуют не только по техническим книгам, но даже и по официальным документам самого высокого уровня. Да вот только что правительство России, родины Айзека Азимова, опубликовало «Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». И там на шестой странице упоминаются базовые этические нормы для развития этих самых робототехники и искусственного интеллекта. Которые чуть менее, чем полностью повторяют законы Айзека Азимова. Хотя и не совсем.

Например, первый закон Азимова гласит, что робот не должен причинять вред человеку и бездействовать, когда человеку причиняется вред. В базовых этических нормах правительства сказано только про причинение вреда человеку по инициативе робота или искусственного интеллекта. То есть, бездействовать можно. Второй закон Азимова гласит, что робот должен подчиняться человеку, кроме случаев, противоречащих первому закону. В постановлении правительства говорится только о подчинении робота человеку. О противоречии с первым законом не говорится. А третьего закона Азимова — о том, что робот должен заботиться о своей безопасности — в постановлении правительства вообще нет.

То есть, базовые этические нормы за прошедшие почти 80 лет претерпели таки некоторую эволюцию. Обусловленную, разумеется, возможным военным применением роботов. О которой Айзек Азимов, в силу своего наивного интеллигентского мировоззрения, думать не очень хотел.

Однако же сам факт использования этих наивных интеллигентских законов как основы для этических норм постановления российского правительства — это уже в большой степени добродетель.

Поскольку, как мы знаем из кинофильмов про Терминатора и повседневной практики с беспилотниками, вторая родина Айзека Азимова никакими этическими нормами в области робототехники вообще не заморачивается.

Originally published at <KONONENKO.ME/>. You can comment here or there.