Другие журналы

научное издание МГТУ им. Н.Э. Баумана

НАУКА и ОБРАЗОВАНИЕ

Издатель ФГБОУ ВПО "МГТУ им. Н.Э. Баумана". Эл № ФС 77 - 48211.  ISSN 1994-0408

Технологические проблемы создания субмикронных нейрочипов и нейросистем на пластинах

#10 октябрь 2004

удк 621

А.Н. Бубенников, д-р техн. наук, проф., МФТИ

А.А. Бубенников, МГУ

Технологические проблемы создания субмикронных нейрочипов и нейросистем на пластинах

Обсуждаются текущие и перспективные технологические тенденции развития элементной базы нейронных систем: УБИС и 2D-, ЗD на пластинах. Рассматриваются современные и будущие возможности реализации для субмикронных, микромощных нейросистем гигауровня интеграции. Показано, что новые возможности для нейрочипов и двух-, трехмерных нейросистем на пластинах будут регулироваться технологическими прорывами экономических и системных ограничений и барьеров.

Технология и экономика со всем комплексом своих взаимосвязанных проблем становятся ключевыми факторами разработки и освоения конкурентоспособных наукоемких продуктов (КНП): СБИС, УБИС, персональных компьютеров, рабочих станций, серверов, суперкомпьютеров для сверхдинамичного мирового рынка микроэлектроники и более общего “Electronics” с ежегодным объемом продаж (в млрд. долл.) соответственно 1990г. —45 и 480; 1993г.—90и 680; 1996г.— 170 и 800; 2000г. —210 и 1000. Годовой рынок современных нейронных сетей (НС) и нейрокомпьютеров (НК) к 1993—1994 гг. был оценен в - 120 млн. долл. (hardware) и 50 млн. долл. (software) к 2000г. согласно прогнозу соответствующий рынок должен возрасти до 790 млн. долл. (hardware) и 260 млн. долл. (software) [1]. Рынок ИС и ИК на 2000г. по прогнозам ведущих организаций и фирм США и Японии (Dataguest, ICE, VELSI Research, Gartner Group, Disc Trend, IDC, Henderson Ventures, Aberdeen, InfoCorp, Yankee Group, Frost & Sullivan, JETRO, JBIS) составит 750.. .900 млн, долл. (hardware) и 250...350 млн. долл. (software).

Реализация ИС и НК в виде кремниевых нейрочипов и нейросистем на пластинах [2]-[5] содержащих свыше 105-106 эквивалентных формальных нейронов (ФН) различного уровня сложности, по мере приближения числа ФН к числу клеток головного мозга человека, равного 1,5*1010 связана с преодолением технологических системных и экономических трудностей, сдерживающих прогресс этого перспективного направления особенно в рамках “ software ”.

Цель работы — анализ технологических и экономических проблем реализации ИС и НК в виде УБИС и 2D-, 3D-систем “кремний на пластине”, а также новых возможностей создания нейрочипов и нейропластин на основе кремниевых технологий “глубокого субмикрона”.

 

Проблемы разработки нейрочипов и нейропластин

Решение ряда серьезнейших проблем разработки ИС и НК по мере роста интеграции нейрочипов (УБИС) и нейросистем на пластинах (2D, 3D) связано с такими сложными факторами, как:

·        огромная структурная сложность и низкая надежность систем;

·        чрезвычайная сложность эффективной реализации архитектур обучения, самообучения, самоорганизации ИС из формальных нейронов для непрерывно изменяемых весов взаимодействия ФН;

·        технологические трудности изготовления сверхинтегрированных ИС и НК на нейрочипах и субсистемах “кремний на пластине” в области “глубокого субмикрона”;

·        “тирания межсоединений” в нейрочипах и нейропластинах, когда реализуется структурный принцип: каждый ФН связан с каждым ФН;

·        значительное увеличение потребляемой мощности и потеря системного быстродействия по мере. увеличения степени интеграции нейрочипов, 2D- и 3D-нейросистем на кремниевых пластинах;

экономические барьеры при использовании современных технологий и производств ИС и НК, при-водящие к неумеренно высоким ценам на изготовляемые продукты, значительно превышающие верхний уровень аналогичных цен в соответствующем или смежном секторе мирового рынка. Этот фактор является определяющим, поскольку, во-первых, он проявляется значительно раньше технологических и структурных, во-вторых, именно конкуренция на мировом рынке диктует условия развития некоторых секторов рынка, где зачастую простые, дешевые, “товарные” продукты имеют более высокий спрос и обеспечивают большую прибыль, чем сложные и дорогие нейрочипы и нейропластины. Не исключено, что именно этот фактор косвенно характеризует весьма ограниченный на сегодня, упомянутый вначале рынок конкурентоспособных интегральных кремниевых ИС и НК по сравнению с рынком СБИС, УБИС, специализированных и универсальных компьютеров разного типа и других продуктов микроэлектронных информационных технологий.

 

Тенденции развития УБИС

На рис. 1 представлены две сложившиеся тенденции развития интеграции кремниевых УБИС в период с середины 1990-х гг. вплоть до 2010г. График построен для однородных схем — памяти динамических ОЗУ (ДОЗУ) и неоднородных схем — микропроцессоров, на основе данных наиболее обоснованного и сбалансированного прогноза развития мирового микроэлектронного производства и бизнеса [6], [7]. В составлении прогноза принимали участие эксперты ведущих фирм США. Основными факторами повышения интеграции УБИС являются следующие: 1) уменьшение топологических размеров элементов; 2) увеличение размеров кристалла; 3) совершенствование схемотехники и архитектуры; 4) уровень развития полупроводникового производства. Как видно из рис. 1, примечательной особенностью развития интеграции является тот факт, что для микропроцессорной ветви логических неоднородных УБИС характерен эволюционный рост числа приборов на кристалле в 1997—2010 гг., близкий к эволюционному росту, характерному для 1970—80-х и начала 90-х гг., в то время как для однородных УБИС ДОЗУ, начиная с уровня 64 М — 256 М, проявляется новая тенденция — более интенсивная интеграция УБИС ДОЗУ гигабитного уровня по сравнению с интеграцией килобитного и мегабитного уровней указанного периода.

Рис. 1.

Развитие перспективной элементно-технологической базы НС и НК в виде нейрочипов и нейросистем имеет смысл согласовывать с тенденциями развития УБИС (см. рис. 1), уделяя основное внимание новым возможностям проявления “интеллекта на кристалле” со встроенной памятью гигабитного уровня в обозримой перспективе. В то же время более дорогая логическая структура микропроцессорных УБИС еще какое-то время в соответствии с реализованной и перспективной архитектурой будет определять так называемую “физическую, системную производительность” ПК, рабочих станций, супермини-, минисупер- и суперкомпьютеров.

Фундаментальной проблемой увеличения “физической производительности” компьютеров на кремниевых УБИС с традиционной и нетрадиционной архитектурой является максимальное использование в симбиозных интегральных системах “CPU-memory” такой сверхвысокой интеграции, которая характерна для ДОЗУ, с предельными рабочими частотами отдельных процессоров, реализованных в одном чипе. Значительные успехи намечаются и в увеличении системного быстродействия промышленных процессорных чипов. Они будут определять реальную производительность: от 150...200МГц в 1993г. и 350...400 МГц в 1995г. до 450 МГц в 1998—1999 гг. и даже 0,8...1,2 ГГц уже к 2010г. При этом сохранится тенденция к увеличению степени интеграции (табл. 1) и к дальнейшему уменьшению минимальных литографических размеров от 0,8 мкм в 1989г. до 0,35...0,25мкм в 1995—1998 гг. и даже до 0,07 мкм в 2010г. [6], [7].

Таблица 1.

Параметры

1995

1998

2001

2004

2007

2010

Min размер мкм ДОЗУ:

Объем памяти ДОЗУ/флеш

Площадь кристалла, мм2

Цена ДОЗУ, миллицент/бит

0,35

64М

190

0,017

0,25

256М

280

0,007

0,18

420

0,003

0,13

640

0,001

0,10

16Г

980

0,0008

0,07

64Г

1400

0,0002

Микропроцессоры:

Число транзисторов на 1 см2

Удельная емкость Кэш-СОЗУ, бит/см2

Площадь кристалла, мм2

Цена транзистора, милицент/см2

Количество выводов УБИС

Цена вывода, цент/вывод

 

250

1

512

1,4

 

300

0,5

512

1,3

 

13М

20М

360

0,2

512

1,1

 

25М

50М

430

0,1

512

1,0

 

50М

100М

520

0,05

800

0,9

 

90М

300М

620

0,02

1024

0,8

Рабочая частота УБИС, МГц:

маломощный

быстродействующий

 

150

300

 

200

450

 

300

600

 

400

800

 

500

1000

 

625

1200

 

Проблематика разработки элементной базы нейрочипов и нейропластин

Разработка систем для суперкомпьютинга на УБИС с большим объемом встроенной памяти и наибольшим потенциально возможным быстродействием процессорной части позволит обеспечить повышение их качества, алгоритмической эффективности вычислений и суммарной производительности. В то же время именно в последние годы, благодаря тому, что интеграция однородных схем памяти происходит более высокими темпами по сравнению с интеграцией (а также рабочими частотами) процессорных чипов, возникают новые архитектурные направления “приоритета памяти над процессорной логикой” в отличие от прежних решений — “приоритета логики над памятью”. Увеличение степени интеграции УБИС и удешевление устройств памяти (например, для выпущенных схем емкостью 4M-DRAM цена составила от 4 долл./М в 1993 г. до 1 долл/М в 1995 г.; для прогнозируемых схем емкостью 64 М от 1,5 до 0,4 долл./М в 1996—1998 гг.) позволяет уменьшить количество чипов в системах с массовым параллелизмом и сделать их более дешевыми. Главным средством одновременного увеличения производительности и уменьшения стоимости таких систем является применение симбиозных микроэлектронных технологий с использованием УБИС, а также применение интегральных, оптических, оптоэлектронных технологий для изготовления суперкомпьютеров и НК в обозримой перспективе.

Эффективность архитектуры и производительность разрабатываемых и перспективных суперкомпьютеров и ПК резко повышаются при использовании сверхинтегрированных УБИС, базирующихся на дешевой, встроенной в кристалл памяти ДОЗУ, емкостью в единицы-десятки мегабит, что демонстрируется проектом IBM EXECUBE [8] а также развитием проекта M-Machine [8] где предпринята попытка интегрировать в одном чипе ДОЗУ емкостью 4M-DRAM четыре суперскалярных центральных процессора и несколько портов входов-выходов. Еще более впечатляющие результаты по интеграции в кристалл массивов ДОЗУ емкостью 16М и 128 специализированных процессоров получены фирмой NEC (Япония) [10]. Данное направление применения интеллектуальных мультимедиа систем на кристалле с новой архитектурой оперативной и ассоциативной памяти быстро развивалось в начале-середине 1990-х гг. [2], [3], [5] и нашло отражение в ряде разработок перспективных нейрочипов и нейропластин, представленных на престижных конференциях ISSCC-96 и ISSCC-97 в Сан-Франциско.

Дальнейший рост производительности и функциональных возможностей микропроцессоров, мультипроцессорных ЭВМ и, в первую очередь, НС, НК сдерживается влиянием межсоединений как внутри кристалла плотноупакованных УБИС, так и между кристаллами (особенно при реализации “природных” принципов связи “каждого ФН с каждым произвольным ФН”). Использование медных межэлементных линий связи (ЛС) с меньшей почти в 2 раза по сравнению с типовыми алюминиевыми ЛС удельной проводимостью, позволяет значительно снизить не только сопротивление и задержку в ЛС, но и электромиграционные процессы. Однако ни этот способ, ни даже использование режима криогенных температур не являются кардинальными средствами для снятия ограничений на применение масштабированных нейрочипов и нейросистем.

Основным выходом из сложившейся кризисной ситуации масштабирования УБИС с большой функциональной сложностью, характерной для НС и НК, является в перспективе переход к чисто оптическим связям между чипами (а в отдаленной перспективе и внутри чипа). Несмотря на острую необходимость преобразования электрических сигналов в оптические и оптических в электрические, в мультичипной системе использование оптических ЛС является важным средством улучшения технико-экономических параметров НС и НК. Обработка больших массивов информации в разрабатываемых оптомикроэлектронных системах на УБИС с оптическими связями осложняет создание сверхбыстродействующих микроминиатюрных оптоэлектронных (излучающих и принимающих излучения) компонентов, совместимых с субмикронными КМОП-, БИКМОП-технологиями УБИС [11]-[15].

 

Потенциал КМОП/КБИКМОП - базиса нейрочипов и нейропластин

Большинство современных микропроцессоров и микропроцессорных систем, а также НС и НК реализовано в КМОП - базисе благодаря огромному преимуществу — малому энергопотреблению на низких и средних рабочих частотах. В то же время развитие иерархических комбинированных технологий “глубокого субмикрона”, эффективно реализующих и перекрывающих возможности биполярной технологии (комплементарные вертикальные n-p-n и p-n-p структуры с высокими граничными частотами Ft>10...30 ггц и др.), а также КМОП - технологии (высококачественные n-МОП, p-МОП структуры и др.) (см., на пример, рис. 2), позволяет в рамках комплементарных биполярных (КБИ) и КБИКМОП - базисов проектировать более гибкие и эффективные нейрочипы и нейропластины.

Рис. 2.

С учетом того, что НС могут быть не только специализированными, но и разработанными на основе базовых матричных кристаллов или УБИС со стандартными ячейками и встроенным ДОЗУ, скоростной и интеграционный потенциал НС, изготовленных по субмикронным технологиям, может быть оценен для КМОП/КБИКМОП стандартных логических элементов. Высокое системное быстродействие tз.с и малое энергопотребление W реализуются у подобных КБИ/КБИКМОП - элементов за счет снижения напряжения питания En логического перепада Uл, UлEn а также резкого снижения статической мощности потребления, когда полная мощность потребления Р определяется на рабочих частотах только ее динамическим компонентом PD, PPD. Соответственно энергия переключения и системная задержка данных элементов, работающих на значительную емкостную нагрузку

                       (1)

             (2)

где коэффициент k определяет степень использования потребляемой мощности динамического элемента, для которого k≈0,01…0,1, в зависимости от рабочей частоты и системной организации чина или кремниевой пластины.

При уменьшении энергии переключения W технологическими (h↓), схемотехническими (UЛ↓, EП↓) архитектурными (CН↓) средствами представляются альтернативные возможности, согласно (1), (2), либо увеличивать уровень интеграции УБИС N при сохранении относительно высокого быстродействия в наносекундном диапазоне, либо минимизировать системную задержку при задан ном уровне теплоотвода с кристалла (для воздушного Q≤2...З Вт/см2 для жидкостного Q≤10 Вт/см2 для специализированного жидкостного ‚ Q≈100...1000Вт/см2

                              (З)

Выход на уровень интеграции в миллионы вентилей реален сегодня не только для жидкостного, но и для воздушного теплоотвода. В ближайшей перспективе возможно повышение уровня интеграции до 107 эквивалентных вентилей для УБИС с воздушным теплоотводом и свыше 108 с жидкостным.

Использование ограничительных соотношений потребляемой мощности (соответствующего уровня интеграции N) и системного быстро- действия tз.с (З)

                (4)

где ΔТ— локальная разница температур элемента УБИС и поверхности кристалла; Ө — термическое сопротивление между ними, позволяет оценить скоростной потенциал КБИ/КБИКМОП - базиса УБИС по сравнению с КМОП - базисом.

Для типовых значений в соотношении (4) КМОП-УБИС ΔТ=100oC, Ө=2,5oC/Вт, W=0,1 пДж получаем ограничение N/tз.с ≤4*105 вентилей, но это ограничение позволяет реализовать уровень интеграции N≤4*105 вентилей при достижении минимальной системной задержки tз.с≈1 и при срабатывании всех элементов одновременно, Р = 40 Вт, что требует, в принципе, жидкостного охлаждения. Однако системное быстродействие в субнаносекундном диапазоне tз.с≈0,5... 1 нс, как показывает современная практика, может быть реализовано и при воздушном теплоотводе в реальных условиях неодновременного срабатывания элементов в используемой архитектуре УБИС P≤1…3 Вт, что дает Q≤1…3 Вт/см2

Для перспективных схемотехнических решений КБИ/КБИКМОП базиса УБИС и систем на пластине минимизация технологическими (h↓) схемотехническими (UлEпP↓) и системными (Сн↓) средствами энергии переключения до уровня единиц фемтаджоулей и даже ниже E≈0,2…1 фДж, левая часть соотношения (4) составляет N/tз.с(0,5…2,5)109 вентилей/нс. Это позволяет реализовать в ближайшей перспективе уровень интеграции вплоть до 109 вентилей в субнаносекундном диапазоне tз.с≤0,5...1 пс. Вместе с тем, не задаваясь целью достичь предельного уровня интеграции для Nmax=108 вентилей, можно реализовать системную задержку менее 100пс, для Nmax=106-107 вентилей реализуется быстродействие в десятки пикосекунд tз.сmin≤50 пс.

 

Технологии и архитектуры нейрочипов и нейропластин для НС и НК

Известно, что архитектура нейрочипов и нейропластин является мощным, гибким и эффективным средством представления алгоритмов решения задач, обладающих свойствами массового параллелизма, распределенной ассоциативной памяти, обучения и самообучения по сравнению с архитектурой традиционных логических сетей на стандартных булевских элементах.

Японской фирмой Hitachi в 1990г. одной из первых в мировой практике была разработана и изготовлена НС на кремниевой пластине диаметром 5 дюймов по стандартной субмикронной (0,8 мкм) КМОП - технологии с принципиальной методологией базового матричного кристалла (БМК) [2]. Пластина была смонтирована на керамической подложке 14x15 см2. На этой кремниевой пластине было размещ но 19 млн. МОП - транзисторов в 64 нейрочипах БИС. Такие БИС, использованные в качестве базовой ячейки на пластине, позволяли создать НС из 576 ФН и 36864 синапсов. В используемом БМК размером 12х12 мм было размещено 12 ФН. Каждый нейрон представлялся 1000 КМОП - элементами с соответствующей памятью — 64 слова по 18 бит. Цифровая НС на пластине эквивалентна сети Хопфилда, построенной на основе шины с разделением времени, причем функционирование каждого ФН описывается стандартными выражениями ФН и реализуется с помощью стандартных булевских элементов и ячеек памяти.

Предложенная архитектура шины данных позволяет устранить недостатки, присущие цифровым НС, а именно резко сократить количество соединений между ФН внутри и вне нейрочипа. Весовые коэффициенты ФН изменяются в диапазоне 8 бит, а выходные сигналы кодируются девятиразрядными числами, шина с разделением времени обеспечивает асинхронный обмен данными между ячейками. НС на пластине может быть достаточно просто соединена с управляющим внешним компьютером и использована для решения широкого спектра интеллектуальных задач высокоорганизованными системами искусственного интеллекта.

Позднее благодаря использованию эффективной архитектуры шины данных с разделением времени разработчиками фирмы Hitachi для ИС были структурно в цифровом виде заложены возможности обучения и самообучения по измененной структурной схеме всех используемых в НС новых ФН за счет дополнительной подстройки весовых коэффициентов. Информация от шины адреса и весовые коэффициенты данных (которые первоначально загружаются из системной шины данных и накапливаются в каждой ячейке памяти синапса) перемножаются в блоке умножителя, и соответствующий продукт умножения аккумулируется в теле ячейки ФН. Следовательно, N синаптических соединений рассчитываются одновременно, и после всех переадресовок сканируются в одном временном цикле, соответственно рас считываются NхN соединений синапсов, т.е. все ФН в НС связываются в единый эквивалент классической сети Хопфилда.

Важно подчеркнуть, что использование предложенной архитектуры шины данных с разделением времени и структуры обучаемых и самообучаемых ФН позволяет исключить серьезные проблемы “тирании соединений” и резкого снижения быстродействия НС, являющегося следствием влияния емкостей межэлементных ЛС, несмотря на то, что выходной сигнал отправляющих сигнал ФН должен быть распределен через линии шины со всеми ФН на пластине. Структура шины под разделяется на три иерархических уровня: главный, глобальный и локальный. Каждый уровень имеет свой собственный драйвер и действует в режиме конвейера (pipeline), синхронизируемого тактовыми импульсами. В НС, состоящей из обычных 576 ФН, реализуется 288 самообучаемых ФН. Для стандартных массовых субмикронных технологий и производств КМОП—БИС и НС на пластине интегральная плотность дефектов (около 1 см-2 приводила в среднем к 10 отказам приборов [2]. Для аналогичной плотности дефектов и достигнутого 27%-ного выхода годных НС на пластине в [2] содержится важнейшая информация о жизнеспособности производимых НС и НК на пластине — 75 % из всех 288 самообучаемых нейронов или 230 ФН являются работоспособными в НС Хопфилда для типовой 0,8 мкм — КМОП - технологии и стандартного массового производства БИС.

Вероятность исправности всех ФН в нейрочипе и нейропластинеоценивается на основе известных формул для выхода годных ИС

,               (5)

,                     (6)

где D — плотность дефектов в чипе и на пластине; n — число критических слоев или операций по обработке пластин, в которых эти дефекты возникают; L2 — площадь чипа; А — площадь пластины; l—минимальный топологический размер.

Вероятность исправности 3D-нейропластин выражается через вероятность исправности одного нейрочипа

        (7)

При вероятности выхода годных чипов Wчип = 0,1 соответствующая вероятность выхода годных 3D-НС составляла недопустимо малую величину 10-20.

Последние новейшие и прогнозируемые технологические и производственные возможности гибких ультрачистых минифабов, обеспечивающих минимальную плотность привносимых дефектов (табл. 2), позволяют максимально реализовать потенциал кремниевой технологии в изготовлении НС на пластине с максимальным или вполне приемлемым выходом годных схем, а также обеспечением более надежного функционирования.

При соответствующей вероятности выхода годных пластин 99...100% и отдельных чипов на пластине от 96 до 100% в рамках перспективной концепции изготовления УБИС и НС на пластине согласно (5)—(7) вероятность выхода годных НС на пластине 80...99%, а 3D—НС составляет 60…90%.\

Таблица 2.

Параметры

1995

1998

2001

2004

2007

2010

Минимальный размер, мкм

0,35

0,25

0,18

0,13

0,10

0,07

Требования к массовому производству:

 

 

 

 

 

 

 

 

 

 

 

 

плотность дефектов, дефектов/м2,

240

160

140

120

100

25

максимальный диаметр пластин, мм,

200

200

300

300

400

400

минимальное число шаблонов.

18

20

20

22

22

24

Вместе с тем изготовление НС на пластине является не только базовым средством резкого увеличения интеграции системы вместе с субмикронным масштабированием составляющих активных приборов и компонентов, но также технологи чески выгодным в производстве пластин, характеризующемся высоким выходом годных пластин и чипов, вследствие отсутствия необходимости операций разрезки пластины, корпусирования чипов, тестирования отдельных УБИС и т.д. Именно НС на пластине отвечают наиболее адекватным требованиям глобальной интеллектуальной системы, состоящей из многих нейрочипов, системы диагностики, тестирования, контроля с ограниченными или минимизируемым обменом информацией между отдельными пластинами в процессе подготовки и решения задачи. Именно симбиоз технологии гибкого ультрачистого производства с обработкой отдельных пластин и развитых архитектур НС на пластине и 3D—НС позволяет максимально улучшить качество систем искусственного интеллекта (ИИ) и нейрокомпьютеров с выходом годных, согласно (5)—(7), 50...90% и высокой надежностью.

Первые, наиболее зрелые технологии компоновки трехмерных кремниевых пластин с БИС, а также 3D—НС были представлены в конце 80-х — начале 90-х гг. мировым лидером в этой области — исследовательским центром фирмы Hudhes [18], [19]. Основу технологии компоновки 3D-компьютеров составили: 1) ячеистая организация NxN - матрицы идентичных процессорных элементов на пластине (в первых образцах N32, в последующих N = 128, N = 512); 2) формирование внутренних межсоединений на пластине с помощью скрещенных ”микромостов” на обеих сторонах пластины; З) организация 3D—НС из стопки пластин на основе обширного структурного резервирования с целью обеспечения стойкости системы к дефектам интегральной технологии и изготовления трехмерной конструкции.

Возможности трехмерных систем искусственных многослойных обучаемых персептронных НС, реализованных на пластинах с оценкой общей производительности системы в классе распознавания образов в 24 биллиона переключений в секунду описаны в [18], [19]. Наиболее изучен мощный адаптивный алгоритм обучения многослойных персептронных НС — метод обратного распространения. Он использован в 3D—НС, которые имеют производительность 1,1 биллиона переключений в секунду для матрицы размерности 128х128. С помощью этого алгоритма трехмерных систем для матрицы размерности 512х512 реализовано около 54 биллионов переключений в секунду.

Задача гибкого обучения и самообучения НС без нарушения структуры нейрочипа эффективно решается в рамках модифицированных архитектур нейрочипов и нейропластин, когда структурные усложнения некоторой функции выражаются в добавлении нейронов той или иной классификации (категории) к уже задействованной начальной НС. Соответственно новые категории процессов обучения и самообучения, интеллектуальной самоорганизации НС генерируются добавлением новых “категорийных” ФН без разрушения информации, полученной системой в процессе обучения-самообучения [5].

Методология и организация НС, предложенная в данном подходе на базе цифровых РД-нейронов, помимо наращивания интеллекта системы позволяют весьма эффективно решать проблемы “тирании межсоединений” внутри чипа в рамках субмикронных технологий изготовления УБИС и ЗD-НС. В ЗD-НС большой размерности, где возможно с максимальной полнотой реализовать потенциал субмикронных технологий, больших площадей пластин и надежного гибкого производства с индивидуальной обработкой пластин. Резкое увеличение числа межсоединений между нейронами скрытого слоя и нейронами выходного слоя представляет серьезную проблему. Требование увеличения общего уровня интеграции и системного быстродействия при стандартном формировании многослойных НС (соединение нейронов каждый с каждым) входит в противоречие с аномальным ростом ЛС внутри чипа и на пластине, что при уменьшении проектных норм создаваемых межсоединений приводит к деградации быстродействия и качества исполнения системы.

В этой связи актуальны и значимы поиски новых реализаций как собственно ФН, так и НС, которые бы позволили исключить потенциальную “тиранию межсоединений” в чипе и на пластине. Одной из весьма эффективных попыток построения трехслойной персептроноподобной НС на базе специально разработанного РД-нейрона, в противовес стандартному ФН персептронного типа, является НС, описанная в [5] и представленная на рис. 3. В модели РД-нейрона его возбуждение зависит от дистанции между входным вектором А и весовым синаптическим вектором причем выход нейрона определяется уравнением

                  (8)

где hi, — пороговый уровень; Nin — количество входных нейронов; f — пороговая функция. Модифицированная модель ФН (8) весьма эффективно приспособлена к требованиям НС высокой размерности без деградации параметров системы, а также адаптации самоорганизации, обучения-самообучения. В модели РД-нейрона умножитель весов заменяется вычитателем абсолютного значения синапса, вычисляющего разность между входной величиной и весом. В НС на РД-нейронах с

Рис.3

входным, скрытым и выходным слоями входные сигналы идут на все входы скрытого слоя нейрона, в то время как выходной слой формируется на базе функции или со входами скрытых слоев (см. рис. 3). Выходы скрытых слоев, принадлежащие одинаковой категории, соединяются в единый выход нейрона, что позволяет в НС как внутри чипа, так и на пластине сократить количество межсоединений.

В соответствии с предложенной концепцией целесообразно выделять и объединять нейроны единых и близких категорий, чтобы максимально полно использовать функциональную завершенность одного чина в рамках возможностей пре дельной интеграции чипа. В этом случае возникают дополнительные возможности исключения “тирании межсоединений” в НС как для системы, использующей стандартный тип металлических ЛС, так и для систем, использующих межчиповые оптические ЛС.

Реализация НС на цифровых РД-нейронах (8) с ослаблением влияния межсоединений в плотноупакованных УБИС может быть улучшена за счет увеличения разрядности сумма- тора синапса (с 8 бит до 1б...64), работающего как вычитатель, и за счет увеличения числа синапсов (в несколько раз). Каждый из синапсов оснащен встроенными регистрами для хранения весов и выполняет вычисления независимо, что позволяет достичь значительного выигрыша во времени доступа и в уменьшении потребляемой. мощности, К преимуществам подобной архитектуры НС следует отнести отсутствие внешней синхронизации, а также возможность автоматической остановки работы сумматора каждого синапса с целью минимизации мощности потребления.

По нашим оценкам, перевод подобной НС с КМОП - базиса на КБИ/КБИКМОП при проектных нормах 0,5—0,8 мкм позволит примерно при той же потребляемой мощности увеличить системное быстродействие как минимум в 2 раза и уменьшить критическое время прямого распространения со 104 нс (рекордного результата для начала — середины 90-х годов) до менее 50 нс. Переход к 0,2...0,35 мкм КБИКМОП - базису позволит, как минимум, еще в 2—3 раза увеличить системное быстродействие (при той же потребляемой мощности) НС и НК и уменьшить критическое время вплоть до 15нс.

 

Технология и экономика в разработке нейрочипов и нейропластин

Решающую роль в создании новых поколений НС и НК играют как новые и “принципиально новые” технологии с топологическими нормами “глубокого субмикрона”, так и экономика на стадиях НИОКР, инвестирования и развития производства, коммерциализации, “товарности” и диверсификации создаваемых КНП. Вероятно, никогда еще за 40-летнюю историю интегральной микроэлектроники тенденции технологического и экономического воплощения УБИС, интегральных НС и НК не были так теснейшим образом переплетены [20], [21]. Это стало главной причиной использования в литературе неологизмов типа “техноэкономика” или “технономика” (симбиозного определения тенденции “Technonomics” “Technoeconomics” от базовых производных “Technology” и «Economics»). Симбиоз технологии и экономики в конце 90-х годов становится ключевым фактором разработки, освоения, развития микроэлектронных КНП, к которым относятся пока еще не очень распространенные нейрочипы, нейропластины для НС и НК.

В разработке нейрочипов и нейропластин первоочередной задачей является экономическая целесообразность использования более дорогого оборудования для технологии “глубокого субмикрона”, позволяющего реализовать все более высокую интеграцию НС и производительность ПК. Экономические барьеры для реального производства в ближайшей перспективе 2D- и 3D-нейропластин становятся даже более значимыми, чем технологические, что видно из рис. 4, который иллюстрирует преодоление технологических и экономических барьеров при использовании прорывных и “принципиально новых” технологий производства УБИС.

Рис. 4.

Использование прецизионных субмикронных технологий изготовления нейрочипов и нейропластин (особенно для ЗD-НС с применением принципов микро- и оптоэлектроники) и соответствующего дорогостоящего технологического оборудования может привести к неумеренно высоким ценам за изготовляемые НС и НК, значительно превышающим верхний уровень аналогичных цен мирового рынка, снижению ценовой конкурентоспособности уникальных НС и НК. В этом случае экономические барьеры сказываются значительно раньше технологических на зависимости цены НС и НК от их производительности. Гипотетический уровень производительности НС и НК для первой стандартной технологии T1 ограничен принципиальным барьером T приближение к которому связано для разработчика с огромными затратами на производство и, как следствие, “запредельной” ценой НС и НК, Ц(Т1) > Ц(Е1).

Появление новой прорывной технологии Т2 при усовершенствованном производстве приводит к новой зависимости цены НС и НК от их производительности, отодвигает не только технологический барьер Т (достигаемый в рамках огромных затрат и цен на НС и НК), но и экономический Е2. Переход на новую ценовую кривую для второй технологии приводит к достижению более высокой производительности при верхнем пределе рыночной цены либо к достижению одной и той же производительности, но при меньшей цене за НС и НК, ЦТ21)<ЦТ11). Таким образом, эффект “внедрения” прорывной технологии заключается в смещении вниз зависимости ”цена—производительность” НС и НК; чем дальше раздвигаются технологический и экономический барьеры, тем ощутимее вклад прорыва в обеспечение конкурентности новой или “принципиально новой” технологии и рыночного успеха соответствующих интегральных полупроводниковых или симбиозных микрооптоэлектронных НС и НК.

В [19], [20] показана экономическая целесообразность организации гибких мелкосерийных ультрачистых мини-производств УБИС на базе конкурентных технологий “глубокого субмикрона”, соответствующих схемотехник и архитектур для КНП мультимедиа-систем, суперкомпьютинга.

Приведенный в работе анализ технологических и экономических проблем реализации НС и НК в виде УБИС и 2D-, 3D-систем “кремний на пластине’, новых возможностей воплощения нейрочипов и нейропластин на основе кремниевых технологий “глубокого субмикрона” позволяет с еще большей уверенностью говорить о высокой экономической целесообразности и необходимости использования гибких мелкосерийных ультрачистых мини-производств для оперативного (в течение 3—5 дней) воплощения НС и НК с высокой надежностью, максимально высоким процентом выхода годных нейрочипов и нейропластин для бурно развивающегося направления нейрокомпьютинга. Основы экономической целесообразности и реализации мини-производств НС и НК по прецизионным технологиям глубокого субмикрона проистекают из прогнозируемой реальности получения достаточно высокой прибыли в классе конкурентоспособных КБИКМОП/КМОП нейрочипов, нейропластин, 3D-НК, обеспечения потенциально высокой рентабельности мелкосерийного, оперативного, гибкого мини-производства.

 

Список литературы

1.      Neural networks, neurocomputers & beyond: Technologies Applications & Markets // Business Communications Company Inc / Norwalk CT 016855; NC-117, 1992.

2.      Fujita M., Kobaysashi Y. Development and fabrication of digital neural network WSIs // IEICE Trans. Electron., 1993. V. E76, N. 7. P. 1182-1189.

3.      Cambell M., Toberg S. 3-D Wafer scale Architectures for Neural Network computing // IEEE Trans. -1993. V. CHMT 16. N 7. P. 646-655.

4.      Boubekeur A., Patry J. et. al. A real experience of configuring a wafer scale 2-D array of monolit processors // IEEE Trans. -1993. V. CHMT 16. N 7. P.637-644.

5.      Uchimura K., Saito O., Amemiya Y. A high-speed digital Neural netwiork chip low-power chain-reaction architecture // IEEE Journal. 1993. V. SC-27, N 12. P.1862-1866.

6.      SIA 1994 National Technology Roadmap for semiconductors. – Semiconductor Industry Association, 1995.

7.      SIA 1994 National Technology Roadmap for semiconductors. – Semiconductor Industry Association, 1995.

8.      Kogge P. EXECUBE-a new architecture for scalable MPPs/Proc 1994, Int. conf. onparallel processing, Aug., 15-19. P. 1-77-1-84.

9.      Dally W. et al. M-Machine Microarchitecture Industry // Intel lab. MIT, Jan., 1993.

10.  Sasaki H. Strategy of Japanese Semiconductor Industry // Proc. ISSM-96. Tokyo. 1996. P. 3-6.

11.  Tewkabury S., Hornak L. et al. Cointegration of optoelectronics and submicrometer CMOS // IEEE Trans. – 1993. – V. CHMT-16, N 7. P.674-685.

12.  Special issue on bipolar, BICMOS/CMOS device technologies // IEEE Trans. V. ED-42, 1995, N 3.

13.  Бубенников А. Н., Бубенников А. А. Тенденции развития конкурентоспособных кремниевых КМОП-, биполярных и БИКМОП-СБИС. Ч. 1, 2. // Зарубежная радиоэлектроника. 1993. №1, 1994. №3.

14.  Zeeb E. et al. Independently adresscable vertical-covity surface emitting laser diode/arrays // Proc. Int. conf. on optical computing. 1994, pp. MB 2/11 – MB 2/12.

15.  Redmond I., Schenfeld E. A distributed recon-figurable free-space optical network for massively parallel processing architectures // Proc. Int. conf. on optical computing. 1994, wp 6/241-wp6/242.

16.  Бубенников А. Н. Новое направление в разработке специализированных суперкристаллов: КБИКМОП-С3 БИС с переходной схемотехникой // Электронная техника. Сер. 10. Микроэлектронные устройства. 1993. Вып. 3. С. 7-14.

17.  Бубенников А.Н. Сравнительный анализ комплектарных ЭСЛ – элементов с улучшенными энергетическими показателями для С3СБИС // Микроэлектроника. 1994. Т. 23. №2. С. 74-85.

18.  Williams R. Future WSI Technology: stacked monolithic WSI // IEEE Trans. -1993. –V. CHMT-16, N 7. P. 610-614.

19.  Bubennikov A. N. Bubennikov A. A. A choice of flexible, ultraclean processing strategy for advanced minifabs of competitive ULSI // Proc. Baltic Electronic Conference, Tallin, 1996. P. 125-129.

20.  Бубенников А. Н. Бубенников А. А. Соловьев А. А. Основы и особенности гтбктх ультрачистых производств субмикронных УБИС с индивидуальной обработкой пластин // Зарубежная радиоэлектроника, 1996, №6. С. 43-55.

ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ, №6. 1997

ПЕРСПЕКТИВНЫЕ ТЕХНОЛОГИИ НЕЙРОКОМПЬЮТЕРОВ

Поделиться:
 
ПОИСК
 
elibrary crossref ulrichsweb neicon rusycon
 
ЮБИЛЕИ
ФОТОРЕПОРТАЖИ
 
СОБЫТИЯ
 
НОВОСТНАЯ ЛЕНТА



Авторы
Пресс-релизы
Библиотека
Конференции
Выставки
О проекте
Rambler's Top100
Телефон: +7 (915) 336-07-65 (строго: среда; пятница c 11-00 до 17-00)
  RSS
© 2003-2022 «Наука и образование»
Перепечатка материалов журнала без согласования с редакцией запрещена
 Тел.: +7 (915) 336-07-65 (строго: среда; пятница c 11-00 до 17-00)