Бесплатный автореферат и диссертация по биологии на тему

ПРОГНОЗИРОВАНИЕ НАКОПЛЕНИЯ ДОЛГОЖИВУЩИХ РАДИОНУКЛИДОВ В СЕЛЬСКОХОЗЯЙСТВЕННЫХ РАСТЕНИЯХ: СТАТИСТИЧЕСКИЕ МЕТОДЫ И МОДЕЛИ

ВАК РФ 03.00.01, Радиобиология

Автореферат диссертации по теме "ПРОГНОЗИРОВАНИЕ НАКОПЛЕНИЯ ДОЛГОЖИВУЩИХ РАДИОНУКЛИДОВ В СЕЛЬСКОХОЗЯЙСТВЕННЫХ РАСТЕНИЯХ: СТАТИСТИЧЕСКИЕ МЕТОДЫ И МОДЕЛИ"

На правах рукописи

МОШАРОВ Олег Владимирович

ПРОГНОЗИРОВАНИЕ НАКОПЛЕНИЯ ДОЛГОЖИВУЩИХ РАДИОНУКЛИДОВ В СЕЛЬСКОХОЗЯЙСТВЕННЫХ РАСТЕНИЯХ: СТАТИСТИЧЕСКИЕ МЕТОДЫ И МОДЕЛИ

Специальность 03.00.01 - Радиобиология

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата биологических наук

МОСКВА - 2006

Диссертация выполнена в ГНУ Всероссийский научно-исслед овательскнй институт сельскохозяйственной радиологии и агроэкологии Российской академии сельскохозяйственных наук

Научный руководитель: Доктор биологических наук

Спиридонов Сергей Иннокентьевич

Официальные оппоненты: Доктор биологических наук, профессор

Круглов Станислав Валентинович (ОГТУАЭ, Обнинск) Кандидат химических наук, доцент Кузнецов Анатолий Васильевич (ГУ ВНИИ агрохимии им. Д.Н. Прянишникова, Москва)

Ведущая организация: Республиканское научно-исследовательское

унитарное предприятие "Институт радиологии", Беларусь, Гомель

Зашита диссертации состоится декабря 2006 г. в часов

на заседании Диссертационного совета Д.006.068.01 при Всероссийском научно-исследовательском институте сельскохозяйственной радиологии и агроэкологии.

249032, Калужская обл., г, Обнинск, Киевское шоссе, 109 км, ГНУ ВНИИСХРАЭ, Диссертационный совет. Факс: (48439) 6-80-66

С диссертацией можно ознакомиться в библиотеке ГНУ ВНИИСХРАЭ.

Автореферат разослан « _ tiCCUjttSL_2006 г.

Ученый секретарь Диссертационного совета, ^

кандидат биологических наук O.A. Шубина

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. В результате крупных радиационных аварий на Чернобыльской АЭС и производственном объединении "Маяк", а также испытаний ядерного оружия, радиоактивному загрязнению подверглись сельскохозяйственные угодья на территории Российской Федерации и других стран СНГ. В зону радиоактивного загрязнения попали территории 21 субъекта Российской Федерации с обшей площадью загрязнения более 50 тыс. км1. Наиболее высокие уровни радиоактивных выпадений зарегистрированы в Брянской, Калужской, Тульской и Орловской областях. Основными биологически значимыми долгоживупшми радионуклидами, оказывающими влияние на формирование дозы внутреннего облучения населения, проживающего на радиоактивно загрязненных территориях, в отдаленный период после аварии являются шСз и "лг. Эти же радионуклиды, поступившие на поверхность почв сельскохозяйственных угодий при глобальных выпадениях после испытаний ядерного оружия, также участвуют в формировании дополнительного радиационного риска для населения.

Ведение сельскохозяйственного производства на радиоактивно загрязненных территориях и обеспечение населения продукцией, соответствующей санитарно-гигиеническим нормативам, являются важными и актуальными проблемами (Алексахин и др., 1991, 1994). Изучение закономерностей н оценка количественных характеристик накопления радионуклидов в растениях имеют определяющее значение дня организации сельскохозяйственного производства и внедрения защитных мероприятий в районах, подвергающихся загрязнению.

К настоящему времени накоплен большой объем информации о распределении основных биологически значимых долгожнвущих радионуклидов в системе почва - растения. Для решения широкого круга практических задач сельскохозяйственной радиоэкологии необходимым этапом является разработка баз данных, включающих коэффициенты перехода долгожнвущих радионуклидов из почвы в растения н почвенные характеристики. Информация, содержащаяся в таких базах данных, может быть использована для разработки математических моделей, предназначенных для прогнозирования содержания радионуклидов в продукции растениеводства. Результаты прогностических оценок могут применяться для разработки научно-обоснованных мероприятий по снижению содержания радионуклидов в продукции растениеводства, производящейся на территории, загрязнённой радионуклидами, и разработки рекомендаций по ведению сельскохозяйственного производства на этих территориях.

Для прогнозирования накопления долгожнвущих радионуклидов в сельскохозяйственной растительности в отдаленный период после радиоактивных выпадений целесообразно испддьзоааггь-- статистические методы и модели, связывающие коэффнциентСперехода радионуклидов в

| имени г

растения с совокупностью почвенных характеристик (Прохоров, 1981; Фесенко и др., 1993), Отработка новых научно-обоснованных методов количественное оценки интенсивности накопления радионуклидов в сельскохозяйственной продукции - важное направление развития современной сельскохозяйственной радиоэкологии. Одним из наиболее современных и перспективных методов, позволяющим описывать нелинейные взаимосвязи между указанными показателями, является метод нейронных сетей. Разработка динамических моделей, предназначенных для прогнозирования изменения коэффициентов перехода радионуклидов в сельскохозяйственную растительность после радиоактивных выпадений, также является значимым аспектом этой научной дисциплины (Константинов и др., 1970; Фесенко и др., 1997, 2002; Санжарова и др., 1996; Спиридонов и др., 2001, 2005). Эш модели могут быть использованы для оценки накопления радионуклидов в сельскохозяйственной продукции при анализе гипотетических аварийных ситуаций на объектах ядерного топливного никла.

Комплекс статистических методов и моделей является необходимым инструментом для решения прикладных задач сельскохозяйственной радиоэкологии, связанных с оперативным прогнозом интенсивности перехода радионуклидов из почвы в растительность. Разработка и совершенствование методов количественной оценки последствий радиоактивного загрязнения агроэкосистем является актуальным направлением исследований.

Нель исследовании. Целью диссертационной работы являлось прогнозирование накопления долгоживущих радионуклидов шСз и ^Бг в растениях на основе современных статистических методов и моделей. ^шчи исследования.

Для достижения поставленной цели были решены следующие задачи:

1. разработка и заполнение базы данных, включающей информацию о характеристиках почв и содержании долгоживущих радионуклидов ( Сз и 5г) в почве и сельскохозяйственной растительности;

2. проведение факторного анализа по выявлению совокупности связей между почвенными характеристиками и коэффициентами перехода долгоживущих радионуклидов в растительность с выделением различных по значимости факторов;

3. разработка комплекса регрессионных моделей, связывающих коэффициенты перехода долгоживущих радионуклидов в растительность и почвенные характеристики;

4. разработка совокупности нейронных сетей, предназначенных для прогнозирования перехода долгоживущих радионуклидов в сельскохозяйственные растения;

5. сравнительный анализ точности прогнозирования коэффициентов перехода радионуклидов в растения на основе регрессионного моделирования и нейронных сетей;

6. разработка комплекса моделей, описывающих динамику перехода 13 Cs из почвы в сельскохозяйственные растения;

1. оценка эффективных периодов полуснижения содержания l37Cs в сельскохозяйственных растениях для различных периодов времени после радиоактивных выпадений;

8. оценка уровней загрязнения почв 137Cs, при которых возможно получение сельскохозяйственной продукции, удовлетворяющей санитарно-гигиеническим нормативам.

Теоретический вклад и научная ноиична. На основе анализа накопленной радиоэкологической информации, с учетом основных факторов, влияющих на поступление допгожнвуших радионуклидов в растения, разработана база данных, включающая коэффициенты перехода радионуклидов в растения и совокупность почвенных характеристик. Впервые разработан и применен алгоритм восстановления отсутствующих в обрабатываемом информационном массиве данных. С целыо формирования представительных по объему статистических выборок применен метод объединения данных по параметрам поступления радионуклидов в растения для глобальных и чернобыльских выпадений.

В рамках процедуры идентификации почвенных характеристик, определяющих поступление ШС$ и wSr в растительность, использован статистический метод факторного анализа. Предложенный подход может служить методической основой разработки детальной радиоэкологической классификации почв.

Впервые для прогнозирования накопления радионуклидов в сельскохозяйственной растительности применен метод нейронных сетей, с помощью которого разработан набор сетевых моделей. Проведено сравнение результатов прогнозирования на основе моделей, созданных с использованием классического метода регрессионного анализа и нейронных сетей, показавшее преимущество последних.

Разработана методика оценки плотностей загрязнения почв радионуклидами, на которых возможно выращивание нормативно чистой растениеводческой продукции. При реализации методики получены конкретные результаты для различных групп почв и видов сельскохозяйственных растений.

Практическая значимость результатов исследований. Разработана база данных, включающая информацию о содержании Sr в почве и

растениеводческой продукция (в период времени с 1981 по 2002 гг.) для различных областей Российской Федерации, Украины и Белоруссии. Информация, представленная в базе данных, может бьпъ использована для анализа закономерностей протекания радиоэкологических процессов и решения ряда практических задач. В ходе создания базы было произведено восстановление недостающих данных на основе разработанного алгоритма, который может применяться в дальнейшем при работе с информационными системами.

В результате применения многомерных статистических методов идентифицированы почвенные характеристики, определяющие интенсивность перехода долгоживуших радионуклидов в сельскохозяйственную растительность. Установление этих характеристик имеет практическую значимость при разработке методов количественного прогнозирования корневого поступления радионуклидов и разработке радиоэкологической классификации почв.

Разработан комплекс регрессионных моделей, которые могут использоваться для оценки накопления ШС$ и м$т в растительности в зависимости от значений агрохимических показателей почв в отдаленный период после радиоактивных выпадений. Создан набор нейронных сетей, которые могут применяться для решения практических задач, связанных с радиоэкологическим прогнозированием в рамках квазиравновесной ситуации.

На основе анализа экспериментальных данных разработан комплекс моделей, описывающих динамику перехода в Сэ из почвы в сельскохозяйственные растения. Модели параметризованы для почв различных групп, выделенных с использованием радиоэкологической классификации. Представлены результаты оценки значений эффективных периодов полуснижения содержания '"Сб в сельскохозяйственных растениях для различных периодов времени после радиоактивных выпадений. Осуществлен прогноз уровней загрязнения почв при которых возможно получение сельскохозяйственной продукции, удовлетворяющей принятым в настоящее время нормативам.

Основные положения, выносимые на защиту;

• База .данных, включающая информацию О содержании долгоживуших радионуклидов (и7С5 и ^Эг) в почве и сельскохозяйственной растительности.

• Результаты применения факторного анализа для идентификации почвенных характеристик, определяющих поступление 1Э7Сз и "Бг из почвы в растения.

• Комплекс статистических моделей и нейронных сетей, предназначенных для прогнозирования накопления долгоживуших радионуклидов в сельскохозяйственной растительности в отдаленный период после радиоактивных выпадений.

• Комплекс динамических моделей, описывающих изменение коэффициентов перехода долгоживущих радионуклидов из почвы в сельскохозяйственные растения.

• Значения эффективных периодов полуснижения содержания шСз в сельскохозяйственных растениях для различных периодов времени после радиоактивных выпадений,

• Результаты прогнозирования уровней загрязнения почв '"Ся, при которых возможно получение пригодной к употреблению сельскохозяйственной продукции.

Апробация работы. Основные результаты работы доложены н обсуждены на международных и всероссийских конференциях, в том числе: на конференции молодых ученых «Перспективные технологии для современного сельскохозяйственного производства» (Владимир, 2004); Международной конференции студентов и аспирантов по фундаментальным наукам «ЛОМОНОСОВ - 2005» (Москва, 2005); Международной научной конференции «Сахаровские чтения 2005 года: экологические проблемы XXI века» (Республика Беларусь, Гомель, 2005); Всероссийской конференции «Экспериментальная информация в почвоведении: теория и пути стандартизации» (Москва, 2005); Международной конференции «Metals in the environment» (Вильнюс, 2006); Международном научном семинаре "Радиоэкология Чернобыльской зоны", (Славутич, 2006) Апробация диссертации состоялась на межлабораторном научном семинаре ВНИИСХРАЭ 12 октября 2006 г.

Публикация работ. Основные результаты диссертации опубликованы в 9 печатных работах, в виде научных статей и тезисов докладов, 1 статья принята в печать.

Структура и обт>ем диссертации. Диссертация состоит из введения, пяти глав, заключения, выводов и списка литературы. Работа изложена на 100 страницах машинописного текста, содержит 19 рисунков, 30 таблиц. Список литературы содержит 139 источников, в том числе 34 иностранных.

СОДЕРЖАНИЕ РАБОТЫ

АНАЛИЗ ЗАКОНОМЕРНОСТЕЙ II МЕТОДОВ ПРОГНОЗИРОВАНИЯ ПОСТУПЛЕНИЯ шСз И *Sr ИЗ ПОЧВЫ В РАСТЕНИЯ

Процессц и <Ьактопы. влияющие на переход ,í7Cs и ^Sr из почвы 9 растения. Изучение закономерностей и оценка количественных характеристик накопления радионуклидов в растениях имеют определяющее значение для организации сельскохозяйственного производства и внедрения защитных мероприятий в районах подвергшихся радиоактивному загрязнению. В цепочках, приводящих к поступлению радионуклидов в растения, почва является емким и инерционным звеном, вследствие чего поведение радионуклидов в почве оказывает существенное влияние на интенсивность их поступления в сельскохозяйственные культуры. Большой объем информации о распределении основных биологически значимых долгоживуишх радионуклидов в системе почва - растения является основой для разработки количественных методов, предназначенных для прогнозирования накопления радионуклидов растениями.

Усвоение радионуклидов корнями растений происходит под управлением механизмов, влияющих на интенсивность поглощения ими основных питательных веществ — макро- и микроэлементов. Различие в поведении радионуклидов и питательных веществ в системе "почва-растительность" обусловлено тем, что в большинстве случаев радиоактивные вещества присутствуют в почве в предельно низких концентрациях.

г

Интенсивности процессов, определяющих поведение радионуклидов в почве, существенным образом зависят от ряда факторов, которые можно объединить в несколько групп: свойства почвы, физико-химические характеристики радионуклидов и формы их нахождения в почве. Кроме того, корневое поступление радионуклидов определяется биологическими особенностями растений.

К физико-химическим характеристикам почвы, влияющим на поведение радионуклидов в почве и их переход в растения, относятся: механический состав, минералогический состав, количество органического вещества, сумма поглощенных оснований, емкость катионного обмена, кислотность почвы. В основу классификации почв по механическому составу положено соотношение количеств физического песка и физической глины. Физическая глина обладает высокой поглотительной способностью (в частности по отношению к загрязнителям почвы) и оказывает большое влияние на интенсивность почвенных физико-химических процессов.

В отдаленный период после аварии на Чернобыльской АЭС наибольшую радиоэкологическую значимость приобрели долгоживущие радионуклиды шСз и ^г. Поведение этих радионуклидов в почве имеет ярко выраженные различия, обусловленные их физико-химическими характеристиками и свойствами почв. Указанные факторы влияют в своей совокупное™ на содержание различных форм шСя и ^г в почве. Снижение подвижности радионуклидов в почве протекает достаточно интенсивно в первые несколько лет после выпадений, после чего этот процесс значительно замедляется. Таким образом, при разработке методов количественной оценки накопления радионуклидов в сельскохозяйственной продукции необходимо учитывать комплекс факторов, которые можно объединить в следующие группы; физико-химические свойства радионуклидов; агрохимические характеристики почвы; биологические особенности растений.

Методы прогнозирования перевода радионуклидов из почвы в растения. Инструментом прогнозирования поступления радионуклидов из почвы в растения являются математические модели, разрабатываемые на основе различных принципов и подходов. Математическое моделирование позволяет выделить существенные стороны исследуемого явления и выразить полученное приближенное описание в виде системы математических выражений (моделей), имитирующих с определенной степенью точности поведение реальной системы.

Для анализа радиоэкологической информации и установления количественных связей между различными показателями могут быть использованы различные статистические методы: корреляционный анализ, регрессионный анализ и факторный анализ. Новое направление радиоэкологических исследований - применение для прогностических целей метода нейронных сетей.

Корреляционный анализ определяет зависимость между переменными, характеризуемую коэффициентом корреляции (мерой линейной зависимости переменных). Главная особенность факторного анализа в рамках решаемой

задачи - возможность учета всей совокупности связей между переменными. Общими целями факторного анализа являются: сокращение числа переменных (редукция данных) и определение структуры взаимосвязей между переменными. Задача регрессионного анализа — описать на основе фактических данных изменение взаимно коррелирующих величин и найти уравнение регрессии. Уравнение регрессии можно рассматривать как вероятностную гипотетическую функциональную связь величины результативного признака со значениями факторных признаков.

Метод нейронных сетей успешно применяется в различных областях знания для решения задач прогнозирования и классификации. Идея нейронных сетей возникла в ходе исследований в области искусственного интеллекта, при моделировании низкоуровневой структуры мозга с учетом способности биологических нервных систем к обучению (Patterson, 1996). При функционировании нейронной сети искусственный нейрон получает входные сигналы (исходные данные либо выходные сигналы других нейронов нейронной сети) посредством нескольких входных каналов. Каждый входной сигнал проходит через соединение, имеющее определенную интенсивность (по аналогии с синаптической активностью биологического нейрона). В дальнейшем вычисляется взвешенная сумма входов, из нее вычитается пороговое значение и определяется величина активации нейрона. Сигнал активации преобразуется с помощью функции активации (или передаточной функции), в результате чего формируется выходной сигнал нейрона.

При обучении и применении нейронной сети на ее вход "подается" набор переменных, на выходе сети регистрируются результаты прогнозирования. Кроме этого, в сети функционируют промежуточные (скрытые) нейроны, выполняющие внутренние функции. Входные, скрытые и выходные нейроны связаны между собой, формируя структуру сети. Ключевая особенность нейронных сетей - реализация механизмов обратных связей в процессе обучения. Нейронные сети - мощный метод моделирования, позволяющий воспроизводить сложные, нелинейные зависимости. Это обстоятельство является важным с учетом того, что на протяжении многих лет основным методом поиска количественных закономерностей в радиоэкологии было линейное моделирование.

СОЗДАНИЕ БАЗЫ ДАННЫХ ПО КОЭФФИЦИЕНТАМ ПЕРЕХОДА РАДИОНУКЛИДОВ ИЗ ПОЧВЫ В СЕЛЬСКОХОЗЯЙСТВЕННЫЕ РАСТЕНИЯ

При создании базы данных для прогнозирования коэффициентов перехода mCs и wSr из почвы в растения использовались разрозненные первичные радиоэкологические базы данных. На основе собранной информации была разработана оптимальная, с точки зрения достижения цели исследования, структура объединенной базы данных (рис 1). Разработанная база данных включает информацию о характеристиках почв, свойствах растений, содержаниях ir7Cs и wSr в почве и растениеводческой продукции,

коэффициентах перехода (КП) и накопления радионуклидов (за период времени с 1981 по 2002 гг.). Суммарный объем информации, включенной в базу, составляет более 13 тысяч записей.

Рис I. Схема базы данных

Первичные информационные массивы, включенные в состав блока "Агрохимические характеристики почвы", содержали пропущенные значения, что затрудняло анализ и обработку данных. В то же время, наличие выборок данных значительного объема для конкретных типов почв и видов растений дало возможность восстановить отсутствующую информацию. Осуществление такой процедуры позволило избежать исключения неполных записей в базе данных и, тем самым, сохранить всю имеющуюся первичную информацию.

Восстановление пропущенных данных проводилось для следующих показателей: содержание физической глины, кислотность почвы, гидролитическая кислотность, содержание обменного кальция, содержание обменного магния, содержание подвижного калия, сумма поглощенных основание, емкость поглощения. Эти показатели определялись на основе разработанного алгоритма, заключающегося в заполнении пропущенных данных двумя способами - с использованием литературной информации и методами математической статистики (рис 2). Всего было восстановлено более 15% записей.

После восстановления пропущенных значений была проведена группировка почв и сельскохозяйственных растений. Из базы данных были сформированы выборки для набора сельскохозяйственных культур: ячмень, овес, пшеница, рожь - зерно; картофель — клубни; овощи; кукуруза - зерно и силос; однолетние и многолетние травы - сено.

гп

Анализ внфорыаши

I

Методы восстановления пропущен»«* ___ _ дачепкй

Но йктервтурнъш данным

] с

Ь

Методами матвевгтесейа «жлсстжй

х

ПостроашепзррелштонжЛиятрИ!»! |

т

Построена регрессионных уравнений

Выбор ШПШИШ1 урмиявя

* Заполнение пропущенных "инчсияй

Рис. 2. Алгоритм восстановления пропущенных данных

Для проведения анализа зависимости коэффициентов перехода от почвенных характеристик использовали радиоэкологическую классификацию почв (Рп5$е1, 1992). В рамках этой классификации асе почвы были разделены на группы с учетом их особенностей, а также имеющейся информации об их способности к фиксации радионуклидов. Минеральные почвы объединялись в три группы в зависимости от их механического состава: песчаные (включая песчаные и супесчаные), суглинистые (включая легкосуглинистые и среднесуглин истые), глинистые (включая тяжелосуглинистые и глинистые).

Предложенная группировка почв имеет следующие преимущества:

• выделенные группы почв практически охватывают все типы почв на территориях, подвергшихся радиоактивному загрязнению;

* небольшое число групп почв позволяет достаточно просто использовать результаты статистического анализа лая прогнозирования накопления радионуклидов растениями.

РАЗРАБОТКА СТАТИСТИЧЕСКИХ МОДЕЛЕЙ ДЛЯ ОЦЕНКИ

ПОСТУПЛЕНИЯ

"Се И 5г ИЗ ПОЧВЫ В

ПАРАМЕТРОВ РАСТЕНИЯ

Формирование выбороц данных, База данных включает информацию по глобальным выпадениям и выпадениям, сформировавшимся в результате аварии на Чернобыльской АЭС. Объемы выборок .данных по глобальным и чернобыльским выпадениям, являются весьма значительными. В связи с этим был разработан алгоритм нормировки чернобыльских данных, позволяющий объединить два указанных информационных массива с целью наиболее полного использования информации, содержащейся в базе данных и увеличения объема выборок. Процесс нормировки заключался в приведении данных, полученных в первые периоды после чернобыльских выпадений, к условиям квазиравновесия, то есть к уровню глобальных выпадений.

В процессе проведения нормировки для каждой "элементарной" выборки данных (в трехмерном пространстве: группа почв -сельскохозяйственная культура - время после радиоактивных выпадений) находились нормировочные коэффициенты (Кп«-). Эти коэффициенты представляют собой отношения среднегеометрических значений коэффициентов перехода для конкретного года после аварии к значению этого показателя в условиях квазиравновесия (в отдаленный период):

К - ТР'

«г.

(1)

где ТР, - среднегеометрическое значение коэффициента перехода в /-ый год после радиоактивных выпадений, ТРп - среднегеометрическое значение коэффициента перехода в условиях квазиравновесной ситуации.

В результате описанного процесса были получены объединенные выборки, отражающие значения коэффициентов перехода для конкретных сельскохозяйственных культур и определенных групп почв в условиях квазиравновесия (отдаленный период после радиоактивных выпадений).

Иденти<Ьикаиия почвенных характеристик. определяющих поступление и п'£>■ из почвы в растения. На первом этапе обработки данных для установления связи между коэффициентами перехода и почвенными характеристиками применялся метод корреляционного анализа. Были рассчитаны коэффициенты корреляции между коэффициентами перехода и ^Бг в различные виды сельскохозяйственных растений и агрохимическими показателями. Эти показатели для различных выборок изменяются в широких пределах (0.05 - 0.79 для шСз и 0.03 - 0.68 для ®°5г). Следует отметить, что максимальные значения коэффициентов корреляции наблюдаются для песчаных и суглинистых групп почв, что обусловлено представительными объемами выборок.

Анализ полученной информации позволяет сделать вывод о том, что результаты корреляционного анализа достаточно сложно использовать при выделении наиболее значимых почвенных показателей. Поэтому, для установления зависимости между почвенными показателями и коэффициентами перехода шСз и ^Эт из почвы в растения на следующем этапе исследования применялся более гибкий статистический метод -факторный анализ. Этот метод учитывает всю совокупность связей между почвенными характеристиками и коэффициентами перехода радионуклидов из почвы в растения с выделением различных по значимости факторов.

Процесс выполнения факторного анализа с использованием пакета программ ЭТАП БИС А 6.0 включает ряд этапов. На первых этапах осуществлялся выбор метода расчета н входных показателей, В дальнейшем проводилась идентификация числа факторов и выбор способа вращения. На последнем этапе выполнялся анализ полученных результатов. При проведении факторного анализа использовался метод главных компонент. Вращение факторов осуществлялось методом ВАРИМАКС.

В результате факторного анализа выделены значимые почвенные факторы, объясняющие максимальные доли дисперсии. Наиболее высокие нагрузки на указанные факторы для выборок, включающих КП шСв в растения, зафиксированы от следующих почвенных показателей: содержание физической глины, кислотность почвы и содержание подвижного калия. Это обстоятельство позволяет утверждать, что указанные показатели являются определяющими в рамках выделенных факторов. Аналогичным образом выделены наиболее значимые факторы для выборок, включающих КП $г в растения, и идентифицированы показатели с максимальными факторными нагрузками - содержание физической глины, обменного кальция и кислотность почвы.

Значения факторных нагрузок на основные почвенные факторы от показателя "коэффициент перехода" дают возможность оценить влияние каждого выделенного фактора на интенсивность накопления долгоживущих радионуклидов сельскохозяйственными растениями. Таким образом, в результате факторного анализа с использованием выборок данных, полученных на больших территориях, было подтверждено, что наиболее важными почвенными показателями, влияющими на переход П7С$ и ^г из почвы в растения, являются: механический состав почвы, кислотность почвы, а также содержание калия для П7С5 и кальция для ^г.

Регрессионные модели. связывающие коэффициенты перехода радионуклидов в Растения из почвы и агрохимические показатели. Для количественного описания связи между коэффициентами перехода

в сельскохозяйственную растительность и агрохимическими показателями почвы был использован метод регрессионного анализа. В качестве входных переменных при разработке моделей множественной регрессии использовались наиболее значимые почвенные характеристики, идентифицированные с помощью факторного анализа на предыдущем этапе исследований.

Разработаны линейные регрессионные модели, имеющие вид:

где — ТР - коэффициент перехода, Л'( - 1-ая агрохимическая характеристика почвы, а и Ь -параметры модели.

С целью поиска наилучшего варианта описания зависимости КП от почвенных характеристик использованы нелинейные регрессионные модели, описываемые уравнением:

ТГ= А-X** • ■ ...X*' (3)

В результате использования линеаризующего преобразования уравнение (3) принимает вид:

1п(7Р) = 1ПЛ+£В,ВД) (4)

1-й.»

Анализ результатов расчетов не выявил предпочтительности нелинейных моделей, по сравнению с линейными, при описании зависимости

коэффициентов перехода от почвенных характеристик. Так для моделей, разработанных на основе данных по 1J7Cs, лишь в 30% случаев нелинейные зависимости являются предпочтительными. Наилучшее качество связи между КП и входными переменными для линейных зависимостей зафиксировано в 35% случаев. Для остальных выборок качество прогноза не зависит от типа модели. Линейные модели, разработанные на основе информации по коэффициентам перехода ^Sr в сельскохозяйственную растительность, наилучшим образом описывали исходные данные для 40% выборок.

Коэффициенты детерминации, описывающие качество регрессионных моделей, изменяются в диапазоне 0.16 - 0.78 для U7Cs, в диапазоне 0.2 - 0.68 для wSr, соответственно. Таким образом, полученные регрессионные модели не во всех случаях позволяют осуществлять качественное прогнозирование накопления радионуклидов в растительности. Причиной этого может являться небольшой объем некоторых выборок данных и отсутствие в их составе входных переменных показателей, которые могут оказывать влияние на интенсивность накопления дсигоживущих радионуклидов в растительности. Можно предположить, что влияние неучтенных показателей возрастает при включении в состав базы данных информации, полученной на значительных территориях, охватывающих различные ландшафты и климатические зоны.

РАЗРАБОТКА НЕЙРОННЫХ СЕТЕЙ ДЛЯ ПРОГНОЗИРОВАНИЯ НАКОПЛЕНИЯ РАДИОНУКЛИДОВ В СЕЛЬСКОХОЗЯЙСТВЕННЫХ РАСТЕНИЯХ

Одна из задач исследований, выполненных в рамках диссертационной работы, - применение метода нейронных сетей для установления количественных зависимостей коэффициентов перехода l37Cs и soSr в сельскохозяйственные растения от почвенных показателей. Для разработки нейронных сетей и их обучения использовался программный пакет STAT1STICA Neural Networks. Алгоритм построения нейронных сетей, предназначенных для прогнозирования поступления радионуклидов в растения, состоит из ряда этапов, включающих - выбор метода, идентификацию независимой и зависимых переменных, выбор количества сохраняемых сетей, длительности поиска и структуры результата.

Основываясь на информации, полученной в ходе проведенного факторного анализа, для построения нейронных сетей использовались наиболее значимые, с точки зрения влияния на КП, почвенные характеристики. Нейронные сети формировались и обучались на основе выборок нз базы данных, описанной в главе 2 диссертационной работы. В результате проведенной работы получена совокупность нейронных сетей, позволяющих рассчитывать коэффициенты перехода IJ7Cs в растения из почвы. В качестве исходных данных для нейронных сетей рассматриваются следующие почвенные характеристики: для I37Cs - механический состав почвы (содержание физической глины, размером менее 10 мкм, %), pH,

содержание подвижного калия в почве (мг/100 г); для ^Бт - механический состав почвы, содержание обменного кальция и рН.

Нейронные сети были созданы для следующих сельскохозяйственных растений - картофель, ячмень, овес, пшеница, рожь, кукуруза, корнеплоды, однолетние травы, многолетние травы и для трех групп почв: (песчаные -супесчаные), (легко- среднесуглинистые), (тяжелосуглинистые - глинистые). В качестве примера в табл. I приведены характеристики различных типов нейронных сетей для прогнозирования коэффициента перехода ШС$ в сельскохозяйственные растения из песчаных и супесчаных почв.

Таблица I. Характеристики наилучших типов нейронных сетейt разработаны их для прогнозирования КП U7Cs в растительность до песчаных и супесчаных поив

KvLibmvpq Тщ сemú fijcoñftbie Скпыты1> Ошибка

Ячмень , , MLP.,. 3 n 0.0003

Роцсь MLP 3 7 0295

Пшенипя ______MLP 5 0.08

Олнллегнре тпавц мр> 3 2 0.13

Ов^с MLP 3 5 0.33

Многолетие тпавы , ,, MLP..,. 3 5 3.52

Кукуруза сил ос . „, MLP._. „ 3 6 0.04

К^&негртодь! MLP 3 6 0.009

КаптоАель MLP 3 9 0.003

Во всех случаях случае, наилучшей нейронной сетью устанавливающей зависимость между почвенными характеристиками и КП, является многослойный персе птрон (MLP). Схема трехслойного персептрона, включающая совокупность входных переменных, "скрытых" параметров и выходного параметра (коэффициента перехода), представлена на рис. 3. Проверка адекватности нейронных сетей с использованием независимых данных позволила заключить, что разработанные нейронные сети пригодны для прогнозирования поступления Cs и MSr в растительность.

2

Рис. 3. Структура нейронной сети (MLP), разработанной для прогнозирования накопления радионуклидов в растениях; 1 — входные переменные; 2 — «скрытые» параметры; 3 - выходной параметр

Сравнение качества прогнозирования КП радионуклидов из почвы в растения на основе метода нейронных сетей и регрессионного моделирования, проводилось с применением единого показателя - критерия Тейла, который характеризует степень близости расчетных оценок и экспериментальной информации:

где Т - критерий Тейла, х*, и х'„ представляют собой сопряженные значения совокупностей расчетных и экспериментальных данных; N - число отдельных значений в каждой совокупности данных.

При хорошем соответствии расчетных и экспериментальных данных величина критерия Тейла стремится к нулю. Для построенных нейронных сетей н регрессионных моделей критерий Тейла изменялся для 37Cs в диапазоне 0.06 - 0.43 и 0,19 - 0.5, а для "Sr 0.22 - 0.49 и 0.3Ï - 0.61 соответственно. Таким образом, при обработке выборок достаточного большого объема нейронные сети позволяют осуществлять более качественное прогнозирование коэффициентов перехода долгоживущих радионуклидов в растения, по сравнению с регрессионными моделями.

МОДЕЛИРОВАНИЕ ДИНАМИКИ ПЕРЕХОДА mCs В РАСТЕНИЯ И ОПРЕДЕЛЕНИЕ УРОВНЕЙ ЗАГРЯЗНЕНИЯ ПОЧВ, ПРИ КОТОРЫХ ОБЕСПЕЧИВАЕТСЯ СОБЛЮДЕНИЕ САНИТАРНО-

ГИГИЕНИЧЕСКИХ НОРМАТИВОВ

При выполнении анализа динамики перехода 137Cs в сельскохозяйственные растения на территориях, подвергшихся радиоактивному загрязнению после аварии на Чернобыльской АЭС, были рассчитаны среднегеометрические значения коэффициентов перехода и 95%-ные доверительные интервалы для набора сельскохозяйственных культур. На рис. 4 представлены зависимости коэффициентов перехода от времени, прошедшего после аварии, в привязке к конкретным видам сельскохозяйственных культур и группам почв. Динамику перехода lî7Cs из различных почв в сельскохозяйственные растения можно описывать совокупностью экспонент, каждая из которых аппроксимирует изменение этого показателя на определенном временном интервале.

А

Б

1 ПК*.

I I " -г- I I 1 I I I ' ■

,1 [ I

—,—I—I—I—I—I—I

Рис. 4. Динамика коэффициентов перехода в картофель (А) и зерна ячменя (Б) из почв, относящихся к раугичным группам: А • песчаные, □ -суглинистые, о - глинистые

Моделирование динамит перехода ич почвы в

сельскохозяйственные гения. В разработанной базе данных содержится большое количество информации, характеризующей интенсивность поступления в сельскохозяйственные растения в зависимости от

времени, прошедшего после аварии на Чернобыльской АЭС. Накопленная информация дает возможность выявить закономерности изменения перехода ШС$ в растения в различные периоды после радиоактивных выпадений.

Модели, аппроксимирующие динамику перехода шСв из почвы в сельскохозяйственные растения, представляют собой совокупность трех функций, каждая из которых описывает экспоненциальную зависимость от времени, прошедшего после радиоактивных выпадений:

где - содержание Сб в растениях, нормированное на плотность

выпадений, (Бк/кгУОсБк/м1); / — время после радиоактивных выпадений, год;

Ль, X. ~ константы скорости снижения перехода, год*'; Аа, В& Со -параметры модели, (Бк/кг)/(кБк/мг).

При моделировании перехода Се в сельскохозяйственные растения из почвы выделены три периода после аварии на Чернобыльской АЭС: первый период (1987 - 1991 гг.), второй (1992 - 1997 гг.) и третий (1998 - 2004 гг.) периоды (табл. 2).

(6)

Таблица X Значения параметров модели, описывающей дина.чику перехода тС$ в зерновые культуры

Гомта почв 1 Пепвый пеоиол. 1 Втооой пеоиол. ! Тоетий пеонол.

Ячмен ь

Ап А„ /Г Рп и ИГ Дп Г

ОМ 0,10 098 0 37 003 0 89 031 0 0? 0.73.

Суглинистая 0 30 0.23 0,99 013 005 0,94 0,09 0.02 0,7?,

Глинистая ..... 0,10 0.18 0,98 0,05 004 0,87 0.04 0.02 0.75

Птени та

Песчаная 067 0,20 090 &28 003 089 0 22 00? 094

Суглиристрц о,™ 0.30 098 013 0 03 093 0,11 0,02 0 72

Глинистая _ 075 0.47 0,99 0 05 0,04 0.79 0.04 0.02 0.72

Рожь

Пеечэнэч ОМ 008 099 0^1 0 0? ОМ 06 00?, 073

Суглинистая 0.27 0,17 0.9? 0.13 0,03 0.91 0.1 0.02 0.81

Глинистая 0?« 0?5 0 98 011 0 05 0,76 009 0 05 0 73

Овес

Песчаная 0 4^ 008 097 0?« 0 0? 0 8^ 0?^ 0 0? 0.75

Суглинистая 0? 0.17 0% 01 0 03 0 87 008 00? 0,64

Глинистая 0.1 0.25 0.89 0.04 0 05 1 0 84 0.03 0.02 0.76

Оиенка эффективных периодов пояуснижения содержания 137С$ в сельскохозяйственных растениях. Для целей практической оценки интенсивности снижения содержания шСэ в сельскохозяйственных культурах в различные периоды после радиоактивных выпадений проведена оценка эффективного периода полуснижения (Т^). Значения этого показателя для различных групп почв и видов сельскохозяйственных культур рассчитывались с использованием соотношения:

Ти_Н2)

* . (7)

где Ак - константа скорости снижения перехода шСб в растительность для к-го периода после радиоактивных выпадений; / и у - индексы, отражающие группу почв и вид сельскохозяйственной культуры, соответственно.

В качестве примера в табл. 3 приведены значения эффективных периодов попуснижения содержания шСа в зерне злаковых культур для различных периодов времени после радиоактивных выпадений. Анализ информации, полученной для различных видов сельскохозяйственных растений, позволяет заключить, что значения для первого периода после радиоактивных выпадений находятся в диапазоне 1.5 - 7.9 года, для второго периода - в интервале 8.2 - 27.3 года. Снижение содержания ШС$ в растениях в условиях квази равновесного состояния происходит в подавляющей степени за счет радиоактивного распада.

Таблица 3. Значения эффективных периодов полуснижения содержания "7Ся в зерне злаковых культур, годи

..... Гоуппа почв Первый период. 1 Втоцой_ Тоета й

■ Ячмень

Песчаная ...... 6.8 ... ..... 17,7 270

Суглинистая 4.9 12.7 29.8

Глинистая 3.8 14.4 269

Пшеница .......

Песчаная , 3.4 22.4 27,5

Суглинистое 18 9 294

Глинистая 1.5 16.2 ... 29.3_ .

Рожь

Песчаная 7,9 273 300

Суглинистая 39 17.8 296

Глинистая 2.7...... _ _ 12.1 . А 3,4

Овес

7.9 27.3 258

Суглинистая 3 8 18 5 290

Глинистая 2.7 12,1 299

Опенка "критических" уровней загрргрения прчв. На основе моделей, описывающих динамику перехода '"Сб в сельскохозяйственные растения, осуществлен прогноз уровней загрязнения почв, при которых возможно получение продукции растениеводства, соответствующей санитарно-гигиеническим нормативам, на период до 2020 г. "Критические" уровни загрязнения почв оценивались на основе следующего соотношения:

где - плотность выпадений 1 37Сб, при которой содержание '"Ся в (-ом виде растительности, произрастающем на >ом типе почвы, не превышает принятый в настоящее время норматив; С* - значение норматива для /-го вида растительности; СИкЦр) - коэффициент перехода шСб в ¿-ый вид растительности на 7-ом типе почвы.

Следует отметить, что значение (){0) меняется с течением времени ((), прошедшего после выпадений, что связано с изменением перехода в результате экологических процессов (сорбция '"Сб и вертикальная миграция этого радионуклида в почвенном профиле) и радиоактивного распада. Примеры графического отображения динамики 0/(1) представлены на рис. 5. Анализ полученных результатов показывает, что к настоящему времени содержание шСэ в зерновых культурах, произрастающих на песчаных и супесчаных почвах, не превышает нормативов СанПиН 2.3.2.1078-2001 для территорий с плотностью выпадений 137Сз 300*500 кБк/м2. На почвах, относящихся ко 2-ой группе (легко и среднесуглин истые почвы), превышение нормативов СанПиН 2.3.2.1078*2001 в 2006 г. зафиксировано при плотностях выпадений шСб - 1000-1200 кБк/м2, а на тяжелосуглинистых и глинистых почвах при плотностях выпадений этого радионуклида - 2000-

2500 кБк/м2. Значения указанных плотностей выпадений для трав составили в 2006 г. 150-300 кБк/м2 для песчаных и супесчаных почв, 300-500 кБк/м2 — для легко и средне суглинистых почв, 800-1800 кБк/мг — для тяжелосуглинистых и глинистых почв.

А Б

Рис. 5. Динамика плотностей выпадений при которых содержание ,17С$ в зерне ячменя (А) и в сене многолетних трал (Б) не превышает контрольного уровня

Таким образом, на основе информации, содержащейся в базе данных, разработан комплекс моделей, описывающих динамику перехода шСв из почвы в сельскохозяйственные растения. Была произведена оценка значения эффективных периодов полуснижения содержания шСз в сельскохозяйственных растениях для различных периодов времени после радиоактивных выпадений. Осуществлен прогноз уровней загрязнения почв

при которых возможно получение сельскохозяйственной продукции, удовлетворяющей принятым в настоящее время нормативам.

РЕЗУЛЬТАТЫ И ВЫВОДЫ

1. Создана база данных, включающую информацию по содержанию |ЗТС5 и ®°5г в почве и растениеводческой продукции (в период времени с 1981 по 2002 гг.) для различных областей Российской Федерации, Украины и Белоруссии. Суммарный объем информации, содержащейся в базе данных, составляет более 13000 записей. При создании базы было проведено восстановление пропущенных данных на основе разработанного алгоритма. С целью формирования представительных по объему статистических выборок был разработан и применен метод нормировки и объединения данных по параметрам поступления радионуклидов в растения для постчернобыльских и глобальных выпадений.

2. В результате выполнения факторного анализа была подтверждена зависимость коэффициента перехода шСз в сельскохозяйственную растительность от механического состава почвы, содержания подвижного калия в почве и рН. На основе факторного анализа показано, что к наиболее

значимым (с точки зрения влияния на интенсивность накопления в сельскохозяйственной растительности) почвенным характеристикам относятся: механический состав почвы, количество обменного кальция и кислотность почвы.

3. Разработан комплекс регрессионных моделей, описывающих зависимость коэффициентов перехода '"С* и 5г в сельскохозяйственную растительность от почвенных характеристик. Анализ результатов расчетов не выявил предпочтительности нелинейных регрессионных моделей, по сравнению с линейными моделями множественной регрессии. Нелинейные модели позволили получить более качественные результаты прогноза менее чем для 30% статистических выборок, сформированных на основе информации, содержащейся в базе данных.

4. Разработана совокупность нейронных сетей, предназначенных для Прогнозирования коэффициента перехода и Эг в растительность, для различных типов почв и видов сельскохозяйственных растений. Сравнение результатов расчетов на основе регрессионных моделей н нейронных сетей, показало, что при достаточной представительности экспериментальных данных метод нейронных сетей является наиболее предпочтительным инструментом прогнозирования интенсивности перехода дол го живущих радионуклидов из почвы в растения в условиях квазиравновесной ситуации.

5. На основе анализа информации, содержащейся в базе данных, разработан комплекс моделей, описывающих динамику перехода шСэ из почвы в сельскохозяйственные растения. Модели параметризованы для различных видов растений, групп почв, выделенных с использованием радиоэкологической классификации, и периодов времени, прошедшего после радиоактивных выпадений.

6. Оценены эффективные периоды попуснижения содержания 137Сз в сельскохозяйственных растениях для различных периодов времени после радиоактивных выпадений. Значения этого показателя для первого периода после радиоактивных выпадений (1987-1991 гг.) находятся в диапазоне 1.5 — 7.9 года, для второго периода (1992-1997 гг.) - в интервале 8.2 - 273 года. Снижение содержания '"Сэ в условиях квазиравновесного состояния происходит в подавляющей степени за счет радиоактивного распада. Значения эффективных периодов полуснижения для этих условий практически совпадают со значением периода полураспада 137Сз.

7. На основе разработанной методики осуществлен прогноз уровней загрязнения почв №Сз, при которых возможно получение сельскохозяйственной продукции, удовлетворяющей санитарно-гигиеническим нормативам. Анализ полученных результатов показывает, что к настоящему времени содержание ПТС5 в зерновых культурах, произрастающих на песчаных и супесчаных почвах, не превышает нормативов СанПиН 2.3.2.1078-2001 для территорий с плотностью выпадений шСз 300-500 кБк/м2. На почвах, относящихся ко 2-ой группе (легко и среднесугл инистые почвы), превышение нормативов СанПиН 23.2.1078-2001 в 2006 г. зафиксировано при плотностях выпадений '"Сз -

1000-1200 кБк/м2, а на тяжелосуглинистых и глинистых почвах при плотностях выпадений этого радионуклида - 2000-2500 кБк/м*. Значения указанных плотностей выпадений для трав составили в 2006 г. 150-300 кБк/мг для песчаных и супесчаных почв, 300-500 кБк/м1 - для легко- и сред несу глинистых почв, 800-1800 кБк/мг — для тяжелосуглинистых и глинистых почв.

СПИСОК РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Мошаров О.В., Спиридонов С.И., Фесенко C.B. База данных, характеризующая переход радионуклидов из почвы в растения // Владимирский земледелец. 2004, Jfe 3-4, С. 11-12.

2. Мошаров О.В. Разработка базы данных, включающей информацию о содержании долгоживущих радионуклидов в компонентах агроэкосистем // 12 Межд. конф. студентов н аспирантов по фундаментальным наукам «{Ломоносов - 2005», Москва, 11-15 апреля 2005 г. Тезисы докладов. Москва, 2005. С.

3. Спиридонов С.И., Мошаров О.В., Фесенко C.B. Применение статистических методов для идентификации почвенных характеристик, определяющих поступление 137Cs в растительность // Материалы 5-ой международной научной конференции "Сахаровские чтения 2005 года: экологические проблемы XXI века", 20-21 мая 2005 г. Минск, Республика Беларусь. II часть. Гомель, 2005, с. 144-145.

4. Мошаров О.В., Спиридонов С.И., Панов A.B. Факторный анализ данных по коэффициентам перехода 137Cs и MSr из почвы в растения // Труды Всероссийской конференции "Экспериментальная информация в почвоведении**. Москва, МГУ, 20-22 декабря 2005 г. С. 41 -43.

5. Панов A3., Санжарова H.H., Мошаров О.В. Оценка коэффициентов перехода l37Cs из различных типов почв в основные дозообразующие пищевые продукты в отдаленный период после аварии на Чернобыльской АЭС И Труды Всероссийской конференции "Экспериментальная информация в почвоведении". Москва, МГУ, 20 - 22 декабря 2005 г. С. 51 - 52.

6. Panov A.s Sanzharova N., Mosharov О. Estimation of lî7Cs transfer factors from different soil types to the main dose-forming foodstuffs in the long term after the Chernobyl // 3-rd International Conference in Lithuania "Metals in the environment", Vilnius, 26-29 April 2006, P. 125-127.

7. Соломатик BJvL, Спиридонов С.И., Мошаров О.В. Оценка возможности применения метода нейронных сетей для прогнозирования накопления mCs в сельскохозяйственной растительности. Международный научный семинар "Радиоэкология Чернобыльской зоны", Славутич, 27-29 сентября 2006 г. Тезисы докладов. Славутич, 2006, С. 140—143.

8. Мошаров О .В., Спиридонов С.И., Соломзтин В .M., Шубина O.A. Сравнительный анализ применения статистических методов прогнозирования поступления ®°Sr в растения // АНРИ. 2006, № 4 (47) С. 42 -44.

9. Соломатин В.М., Мошаров О.В., Спиридонов С.И., Шубина O.A. Использование статистических методов для прогнозирования поступления долгоживущих радионуклидов в растительность // Вестник Санкт-Петербургской Государственной медицинской академии им. И. И. Мечникова. 2006, № 3, С.

10. Спиридонов С.И., Мошаров О.В., Соломатин В.М., Панов A.B., Фесенко C.B. Оценка уровней загрязнения почв lî7Cs, при которых возможно получение нормативно чистой сельскохозяйственной продукции. Сельскохозяйственная биология (в печати)

Зак. 765.

Тир. 100 экз.

1,25 печ. л.

Центр оперативной полиграфии ФГОУ ВПО РГАУ - МСХА им. К.А. Тимирязева 127550, Москва, ул. Тимирязевская, 44