Джон Нотън
Най-интересната телевизия, която съм гледал напоследък, не идва от конвенционален телевизионен канал, нито дори от Netflix, а от телевизионно отразяване на парламента. Това беше запис на среща на комисията по изкуствен интелект в оръжейните системи към Камарата на лордовете, която беше създадена, за да проучи „как трябва да се разработват, използват и регулират автономните оръжия". Конкретната сесия, която ме интересуваше, беше тази, проведена на 20 април, по време на която комисията изслуша четирима експерти – Кенет Пейн, професор по стратегия в Кралския колеж в Лондон; Кийт Диър, директор на иновациите в областта на изкуствения интелект в компютърната компания Fujitsu; Джеймс Блек от изследователската група за отбрана и сигурност на Rand Europe; и Кортни Боуман, глобален директор по инженеринг на неприкосновеността на личния живот и гражданските свободи в Palantir UK. Интересен микс, помислих си – и така се оказа.
Автономните оръжейни системи са тези, които могат да избират и атакуват цел без човешка намеса. Смята се (и не само от техните поддръжници), че тези системи могат да революционизират войната и може да са по-бързи, по-точни и по-издръжливи от съществуващите оръжейни системи. И че биха могли, вероятно, дори да ограничат жертвите от войната (макар че ще повярвам в това, когато го видя).
Най-впечатляващото в сесията беше, че въпреки че привидно беше за военните употреби на изкуствения интелект, много от проблемите и въпросите, които възникнаха през двата часа дискусия, можеха да възникнат и в дискусии за гражданското внедряване на технологията. Въпроси относно безопасността и надеждността, например, или управлението и контрола. И, разбира се, за регулирането.
Много от най-интересните обмени бяха по тази последна тема. „Ние просто трябва да приемем, че никога няма да се изправим пред тази технология. Винаги ще се опитваме да наваксваме. И ако нашият последователен опит в разработването на публична политика се запази – а това ще стане – тогава технологията ще се движи със скоростта на светлината, а ние ще се движим със скоростта на костенурка. И това е светът, в който живеем." каза примирено лорд Браун от Ladyton
След това имаше въпрос за разпространението на оръжия, вечен проблем в контрола на оръжията. Как повсеместното разпространение на ИИ променя това? Страхотно, каза човекът от Ранд. „Много неща ще бъдат много трудни за контролиране от гледна точка на неразпространението, поради присъщия им софтуерен характер. Голяма част от нашия контрол върху износа и режими за неразпространение, които съществуват, са много фокусирани върху традиционния хардуер от старата школа: това са ракети, това са двигатели, това са ядрени материали".
Като цяло, това беше просветляваща сесия, парадигматичен пример за това каква трябва да бъде съвещателната демокрация: учтива, премерена, информирана, уважителна. И това предизвика размисли за факта, че най-добрите и най-внимателни дискусии по трудни въпроси, които се провеждат в това потънало в тъмнина кралство, се случват не в неговата избрана камара, а в конституционната аномалия, каквато е Камарата на лордовете.
За първи път осъзнах това по време на първия мандат на Тони Блеър, когато някои от нас се опитваха да накарат депутатите да обърнат внимание на Закона за регламентирането на правомощията за разследване, след което бяхме прекарвани през парламента от министъра на вътрешните работи Джак Строу и неговия подчинен Чарлз Кларк. Тогава открихме, че от 650-те членове на Камарата на общините само шепа са проявили интерес към този погрешен статут. (Повечето от тях бяха приели успокоението на Министерството на вътрешните работи, че то просто въвежда подслушването на телефони в цифровата ера.)
Бях учуден да открия, че единствените законодатели, които успяха да подобрят законопроекта по пътя му към книгата със закони, бяха малка група от тези специални конституционни аномалии в Камарата на лордовете, които вложиха много време и усилия, опитвайки се да го направят по-малко дефектен, отколкото иначе би бил. Беше неблагодарна задача и беше вдъхновяващо да ги видя как се справят.
И затова ми беше приятно да ги гледам как го правят отново.