NATIONAL CONFERENCE: ARTIFICIAL INTELLIGENCE: INTELLIGENCE VS ETHICS, SOFIA, 25.04.2019

Published by Public Policy Institute on

Мария Габриел

В Конферентната зала на Софийския университет започна конференцията по изкуствен интелект на тема: „ARTIFICIAL INTELLIGENCE: INTELLIGENCE VS. ETHICS“. Организатори на събитието са Алма матер съвместно с Института по отбрана и международна сигурност (DISI) и Военната академия “Г. С. Раковски” Партньори са и Институтът по публични политики и Асоциация „Български градове и региони“.

Темата за изкуствения интелект е много актуална през последните години, а най-интересният и провокативен за обществото аспект е проблемът за етическото измерение на изкуствения интелект. В рамките на 2019 г. страните членки на ЕС трябва да изготвят свои национални стратегии за изкуствения интелект и настоящата конференция влиза в този процес.

2

Европейският комисар по цифрова икономика и цифрово общество г-жа Мария Габриел приветства участниците във форума и представи дейностите, които Европейската комисия предприема по отношение прилагането на стратегията за изкуствен интелект. По думите й, такъв тип дискусии са полезни и ще помогнат на България да не пропусне в своята стратегия важни аспекти, а ясно да се идентифицират част от сферите, в които България има своя добавена стойност.

Тя изрази радостта си, че с екипа й са се мобилизирали и вече има национална стратегия с три основни стълба – увеличение на инвестициите, етични принципи и въздействие върху пазара на труда и цифровите умения. Има и координиран план за действие с държавите-членки, съдържащ серия от мерки, които ще бъдат актуализирани всяка година, каза още Мария Габриел.

3

В изказването си тя посочи, че изкуственият интелект ще бъде една от водещите теми през следващите пет години. Той и сега е част от ежедневието ни и има перспектива да донесе голяма полза на икономиката, каза тя и посочи, че става дума за допълнение от над 13 трилиона – около 70% от сегашната икономика на ЕС. Мария Габриел изтъкна, че е важно какво е приложението на изкуствения интелект и етичните принципи.

Еврокомисарят допълни, че е създаден и Европейски алианс за изкуствен интелект, в който може да се включи всеки. До момента в него има над 2500 участници.

4

Мария Габриел подчерта, че сформираната експертна група е формулирала седем етични принципи по отношение на Изкуствения интелект – човешки контрол и наблюдение; безопасност и способност на компютъра да преодолява грешки; неприкосновеност и управление на данните; прозрачност; разнообразие, недискриминация и безпристрастност; въздействие върху околната среда и обществото; отчетност.

В края на изказването си европейският комисар по цифрова икономика и цифрово общество подчерта, че целта е в центъра да стои човекът, той да управлява процесите, но все още има редица въпроси и неща, които трябва да се обсъдят широко и да се намери най-доброто решение.

6

Заместник-ректорът на Софийския университет доц. д-р Георги Вълчев поздрави участниците и гостите от името на ректора на Университета проф. дфн Анастас Герджиков и от цялата академична колегия. В изказването си той подчерта, че темата за изкуствения интелект тепърва ще става централна за следващите години за всички развиващи се с бурни темпове общества. По думите му, сме свидетели какво породи бумът в цифровите технологии – освен всичко добро, което донесе този бум, той породи и огромни проблеми. „Най-малкото, ние, които се занимаваме с образование, виждаме както ползите, така и огромните вреди. Т.е. на прага на един вероятно нов етап на технологична революция с Изкуствения интелект, ние трудно бихме могли да предвидим всички въздействия. Чудесно е, че се правят първите стъпки, че се въвеждат принципи, но изследванията трябва да продължават и предполагам, че обхватът на търсенията и специалистите, които трябва да се включат в тези процеси, трябва да се разширяват“, каза доц. Вълчев и постави акцент върху шестия принцип – отражението върху обществото. Той изтъкна, че освен всичко друго, трябва да си даваме сметка, че Изкуственият интелект ще промени въобще отношенията между хората.

9

По думите му, Изкуственият интелект може да помага безкрайно много, вече има такива практики, има болни хора, които се нуждаят от грижа, но могат ли да заместят грижата на човека, на близкия на този, който трябва да прояви разбиране към болката на тези хора. „И от тази гледна точка мисля, че събирането на хора от широкия спектър на знанието в България, в Европа въобще, ще допринесе за всички добри решения и предвиждания на подобен тип проблеми, които ще се породят в бъдеще. Надявам се Софийският университет да бъде част от тази общност и знайте, че нашите врати винаги са отворени за подобни прояви“, каза накрая доц. Вълчев и пожела успех на конференцията.

7

От името на Военна академия „Георги С. Раковски“ приветствие отправи полковник доц. Димитър Ташков, зам.-началник по учебната и научна част на Академията. Той изрази задоволството си, че Военната академия участва в откриването на този форум, който е пореден между Академията, Софийския университет и Института по отбрана и международна сигурност и е продължение на семинара, проведен на 28 ноември във Военната академия. Полк. Ташков подчерта, че му е приятно да види и нови участници – Института за публична политика и Асоциацията на българските градове и региони.

По думите му, темата на форума е от огромен интерес предвид нарастващата роля на Изкуствения интелект в наше време. „Интелигентните технологии влияят на всяка сфера в нашия живот. Те са широкообхватен инструмент, който позволява на хората да преосмислят как обменят информация, анализират данни и използват получените резултати, за да подобрят процесите на вземане на решения“. По думите му, интелигентните системи намират все по-широко приложение в различни области на финанси, национална сигурност, здравеопазване, транспорт и др. Бъдещите поколения ще стават все по-зависими от мрежовите интелигентни технологии и процеси. Той посочи, че протичащата модернизация ни показва, че са налице известни проблеми с достъпа до данни, етиката и прозрачността на използването на Изкуствения интелект, както и правната отговорност на решенията, вземани от него. „Всички тези ползи и вероятни проблеми, свързани с Изкуствения интелект, ще бъдат обсъдени днес, и се надявам, че ще има полезни разговори и обмен на идеи между участниците“, каза още полк. Ташков и пожела ползотворна дискусия.

8

Доц. Велизар Шаламанов поздрави присъстващите от името на Института за отбрана и международна сигурност. Той посочи, че изкуственият интелект има дълга история и днес, когато разполагаме толкова много цифрови данни, позволяват Изкуственият интелект да получи едно превъзходство по отношение на обработката на информацията спрямо отделния човек или група от хора. По отношение на отбраната, в центъра е най-важната ценност за човека – свободата, и най-важното е да гарантираме, че тя няма да се ограничи, а ще се защити, подчерта доц. Шаламанов и посочи, че е много важна тази стъпка в сферата на етиката, но когато се говори за сила, тя трябва да бъде под демократичен контрол.

„Много е важен ръстът в икономиката и новите работни места, но всеки път, когато има сериозно предизвикателство, първият въпрос, който си задаваме е: „Това ще повиши ли нашата свобода или е заплаха за нея?“, ако е заплаха ние трябва да имаме превъзходство, трябва да имаме силата да я защитим и да не позволим на другите да използват тази сила срещу нас“, каза доц. Шаламанов и изрази надеждата си, че ЕС все по-активно ще намира ресурси за инвестиции в тази посока.

5

През последната година Европейският съюз пое курс към ускорено развитие на цифровизацията, високите технологии и системите с изкуствен интелект (AI). До средата на 2019 година държавите-членки на ЕС трябва да предложат свои национални стратегии за развитие на Изкуствения интелект. Един от дискутираните аспекти е етичното измерение на неговото развитие и прилагане в съвременните технологии. Широката общественост все повече се интересува от проблема за евентуалните заплахи, които изкуственият интелект би могъл да създаде за хората и човечеството, и ефекта, който би имал върху ежедневието ни в области като науката и медицината, автономните автомобили, безпилотните системи и оръжията на бъдещето. Избраният панел от лектори и експерти в области като етиката, теорията на игрите, отбраната и сигурността, икономиката и изкуствения интелект ще инициира дискусия, която би представлявала интерес както от академична и бизнес перспектива, така и от перспективата на държавата и нейното управление. Събитието е част от инициативата на DISI „Форум на младите лидери“ и е насочено към млади професионалисти до 35-годишна възраст. То е продължение на темите, дискутирани в провелата се на 28 ноември 2018 г. във Военната академия конференция „Бъдещи предизвикателства пред икономиката, отбраната и сигурността“. За второто полугодие на 2019 година е планирано и следващото събитие с работно заглавие: „Приложения на изкуствения интелект: автономни операции в цифровата флота“. Поредицата ще обхване в разрез и трите домейна: земя, въздух и море, а така също ще засегне и области като критичната инфраструктура, антитероризма, разузнаването и националната сигурност, единната европейска отбрана и отбранителната индустрия.

Program:

10.00 Ms. Maria Gabriel – EU Commissioner Digital Economy & Society

10.25 Assoc. Prof. Georgi Valtchev – Vice-rector, SOFIA UNIVERSITY

10.30 Col. Assoc. Prof. Dimitar Tashkov – Vice-rector, NATIONAL DEFENCE ACADEMY

10:35 Ambassador, Assoc. Prof. Zdravko Popov – President, PUBLIC POLICY INSTITUTE

10.40 Assoc. Prof. Velizar Shalamanov – DEFENCE & INTERNATIONAL SECURITY INSTITUTE

10:45 Blitz-discussion

FIRST PANEL: ARTIFICIAL INTELLIGENCE AND ETHICS IN THE CONTEXT OF DEFENCE AND SECURITY

10:50 Assoc. Prof. Boris Grozdanoff, DEFENCE & INTERNATIONAL SECURITY INSTITUTE “The Ethical AI: from good deeds to war games”

11:10 Dr. Boris Gurov, ERI, BULGARIAN ACADEMY OF SCIENCES “Scratch my back and I’ll scratch yours: putting game theory and AI on
converging paths”

11:30 Dr. Todor Dimitrov, NATIONAL DEFENCE ACADEMY

“Artificial intelligence in naval operations”

11:50 Assoc. Prof. Rossen Lutskanov, ISSK, BULGARIAN ACADEMY OF SCIENCES “There is no artificial intelligence: the philosophy of AI beyond the big divide”

12:10 – 13:30 Lunch break

SECOND PANEL: LOGIC, RATIONALITY AND ETHICS

13:30 Dr. Tatyana Novossiolova, CENTER FOR THE STUDY OF DEMOCRACY “Science professional responsibility in an age of dual-use research: the role of active learning in promoting practice-based competence”

13:50 Dr. Alexander Lazarov, PUBLIC POLICY INSTITUTE “The Artificial Intelligence Human-like Design Framework”

14:10 Assoc. Prof. Anton Gerunov, SOFIA UNIVERSITY “The AI-run economy: some ethical issues”

14:30 Assoc. Prof. Silvia Serafimova, ISSK, BULGARIAN ACADEMY OF SCIENCES

“Whose morality? Which rationality? Challenging artificial intelligence as a remedy for the lack of moral enhancement”

14:50 Dr. Yordan Yankov, PUBLIC POLICY INSTITUTE “Intelligence as a distributed process”

15:00 – 15:30 Discussion and closing remarks