SVD-сжатие, модификации. Дипломная (ВКР). Информационное обеспечение, программирование.
👉🏻👉🏻👉🏻 ВСЯ ИНФОРМАЦИЯ ДОСТУПНА ЗДЕСЬ ЖМИТЕ 👈🏻👈🏻👈🏻
Информационное обеспечение, программирование
Вы можете узнать стоимость помощи в написании студенческой работы.
Помощь в написании работы, которую точно примут!
Похожие работы на - SVD-сжатие, модификации
Нужна качественная работа без плагиата?
Не нашел материал для своей работы?
Поможем написать качественную работу Без плагиата!
Министерство
образования и науки российской федерации
Федеральное
государственное бюджетное образовательное учреждение высшего профессионального
образования
Кубанский
государственный университет
Факультет
математики и компьютерных наук
Кафедра
математических и компьютерных методов
Направление 02.03.01 Математика и
компьютерные науки
Выпускная квалификационная работа
бакалавра
.2 Методы
нахождения сингулярного разложения
.4
Сингулярное разложение и собственные значения матрицы
2.1
Сингулярное разложение и нормирование матриц
Жизнь современного общества невозможно представить без широкого
применения информационных технологий. Бурное развитие Интернета, компьютерной,
копировальной и фототехники привело к широкому использованию цифровых
изображений и обусловило большой интерес к разработке эффективных алгоритмов
сжатия таких изображений.
Применение алгоритмов, обеспечивающих высокую степень сжатия, позволяет
увеличить скорость передачи данных по каналам связи и эффективность их
хранения.
Эта проблема и была поставлена для решения в данной работе. Здесь
предполагается реализация возможности сжатия изображения с помощью SVD-сжатия.
Для решения поставленной цели необходимо рассмотреть ряд сопутствующих
задач:
1. Рассмотреть особенности сингулярного разложения
2. Разработать алгоритм, реализующий сжатие изображения
. Применить теорию о сингулярном разложении для сжатия изображения
при помощи MathCAD, разработав программу для сжатия
изображения
. Произвести анализ динамики сингулярных чисел
Теорема. Для любой вещественной (п х п)-матрицы A существуют две вещественные ортогональные (п х п)-матрицы U и V такие, что
Более того, можно выбрать U и V
так, чтобы диагональные элементы имели вид
где r - ранг матрицы A. В частности, если A невырождена, то
Индекс r элемента есть фактическая размерность
собственного пространства матрицы A.
Столбцы матриц U и V называются соответственно левыми и
правыми сингулярными векторами, а значения диагонали матрицы называются сингулярными значениями
[1].
Пусть A - (m х n)-матрица
и ей в соответствие поставлен линейный оператор, также обозначаемый A. Формулу сингулярного разложения T можно переформулировать в
геометрических терминах. Линейный оператор, отображающий элементы пространства R m в элементы пространства R n представим в виде последовательно
выполняемых линейных операций вращения, растяжения и вращения. Число ненулевых
элементов на диагонали матрицы есть фактическая размерность матрицы A.
Поэтому компоненты сингулярного разложения наглядно показывают
геометрические изменения при отображении линейным оператором A множества векторов из одного
векторного пространства в другое.
Для нахождения сингулярного разложения существует 4 основных метода -
QR-итераций, Якоби, метод «разделяй-и-влавствуй», бисекции [2].
В настоящее время «разделяй-и-влавствуй» один из самых быстрых алгоритмов
отыскания сингулярных чисел и сингулярных векторов матриц порядка больше 25.
Однако алгоритм «разделяй-и-властвуй» не гарантирует высокой относительной
точности для малых сингулярных чисел.
Метод бисекции способен вычислять сингулярные числа на заданном
интервале. Таким образом, для реализации сингулярного разложения были выбраны
метод Якоби и QR-итераций, т.к. метод Якоби является наиболее точным, а
QR-итераций наиболее быстрым и надежным.
В отличие от QR-алгоритма, метод Якоби не предполагает первоначального
приведения к трехдиагональной форме, а работает с исходной плотной матрицей. Он
работает медленнее, однако способен вычислять сингулярные числа и сингулярные
векторы намного точнее, чем другие алгоритмы.
Рассмотрим приближенное линейное описание матрицы вида
Значения для данного значения k найдены из условия минимума выражения
Выражения (1), (2), (3) запишем в матричных обозначениях:
где матрицы , , . Если значение r достаточно велико, то .
Так будет заведомо при . Минимальное значение r, при котором выполнимо равенство T , равно рангу матрицы A.
Один из возможных алгоритмов нахождения сингулярного разложения
заключается в следующем. Найдем последовательно векторы u k , v k и сингулярные числа для . В качестве этих векторов берутся
нормированные значения векторов a k и b k соответственно:
Процедура нахождения векторов u k , v k
начинается с выбора наибольшей по норме строки b 11 матрицы A. Для
k = 1 формулы нахождения векторов a 1 i , b 1 i имеют вид:
Для вычисления векторов u k , v k при используется вышеприведенная
формула, c той разницей, что матрица A заменяется на скорректированную на k-м шаге матрицу
Сингулярное разложение обладает свойством, которое связывает задачу
отыскания сингулярного разложения и задачу отыскания собственных векторов.
(Собственный вектор x матрицы A - такой вектор, при котором
выполняется условие ), число называется собственным числом. Так как матрицы U и V ортогональные, то есть
где I - единичная матрица размерности , то из (4) следует, что
Умножая оба выражения справа соответственно на U и V получаем
Из выражения (6) следует, что столбцы матрицы U являются собственными векторами матрицы , а квадраты сингулярных чисел ее собственными значениями. Также
столбцы матрицы V являются
собственными векторами матрицы , а квадраты сингулярных чисел являются ее собственными
значениями.
Сингулярное разложение позволяет найти ортогональные базисы различных
векторных пространств разлагаемой матрицы. В теореме о сингулярном разложении
рассматривается матрица размером ( ),
Существует так называемое экономное представление сингулярного разложения
матрицы.
Согласно этому представлению при , диагональная матрица имеет пустые строки, а при - пустые столбцы. Поэтому существует
еще одно экономное представление [1]:
Нуль-пространство матрицы A -
набор векторов х, для которого справедливо высказывание . Собственное пространство матрицы A - набор векторов b, при котором уравнение имеет ненулевое решение для х.
Обозначим и - столбцы матриц U и V.
Тогда разложение может быть записано в виде:
Если сингулярное значение , то и находится в нуль-пространстве матрицы A, а если сингулярное значение , то вектор находятся в собственном пространстве
матрицы A.
Следовательно, можно сконструировать базисы для различных векторных
подпространств, определенных матрицей A.
Набор векторов в векторном пространстве V формирует базис для V, если любой
вектор х из V можно представить в виде линейной комбинации векторов единственным способом.
Пусть V 0 будет набором тех столбцов , для которых , а V 1 - все остальные столбцы .
Также, пусть U 0 будет набором столбцов , для которых , а U 1 - все остальные столбцы , включая и те, для которых .
Тогда, если r - количество
ненулевых сингулярных значений, то имеется r столбцов в наборе V 0 и столбцов в наборе V 1 и U 1 , а также столбцов в наборе U 0 .
Каждый из этих наборов формирует базис векторного пространства матрицы A:
V 0 - ортонормальный базис для
ортогонального комплементарного нуль-пространства A,
V 1
- ортонормальный
базис для нуль-пространства A,
U 0 - ортонормальный базис для
собственного пространства A,
U 1 - ортонормальный базис для
ортогонального комплементарного нуль-пространства A.
Рассмотрим изменение длины вектора х до и после его умножения справа матрицу
A. Евклидова норма вектора определена
как:
При умножении вектора x на
матрицу A справа, длина результирующего
вектора Ax изменяется.
Если матрица A ортогональна,
длина вектора Ax остается неизменной. В противном случае,
с помощью выражения , можно вычислить, насколько матрица A растянула вектор x.
Таким образом, евклидова норма матрицы, есть максимальный коэффициент
растяжения вектора.
Евклидова норма матрицы определяется так. Пусть x является n-мерным
вектором, и A - матрица размерности . Тогда Евклидова норма матрицы
Альтернативной Евклидовой норме является норма Фробениуса:
Если известно сингулярное разложение, то обе эти нормы легко узнать.
Пусть -сингулярное разложение ( )-матрицы A.
Сингулярные значения матрицы A - это длины осей эллипсоида, заданного множеством .
Матрица изображения А = (a ij ), размерности n x n, представима в виде A = USV T , где U, V - ортогональный матрицы, а S-диагональная, на главной диагонали
которой расположены (в порядке убывания) неотрицательные значения s k - сингулярные числа матрицы.
определяет среднеквадратичную норму функции-изображения, которая наиболее
подходит для сравнения изображений. При этом удобно использовать равенство
Для многих классов изображений сингулярные числа s k очень быстро убывают. Можно оставить
малое количество сингулярных чисел, норма очень мало изменится, изображения
на-глаз, будут почти не различимы. Этот феномен и дает возможность
сжатия-восстановления (с потерями).
Черно-белое изображение размерности nxn пикселей можно рассматривать как матрицу той же
размерности, значениями элементов который служат числа - соответствующие
интенсивности белого цвета для каждого пикселя. Поэтому, как и для любой
матрицы, к изображению можно применить сингулярное разложение.
Рассмотрим алгоритм SVD
сжатия изображений. Так как сингулярные значения быстро убывают, то, начиная с
некоторого номера p, их вклад в
общую сумму достаточно мал, и эти оставшиеся значения можно не учитывать
при восстановлении исходного изображения. В формуле A = USV T нет необходимости целиком сохранять матрицы U, S, V, что позволяет
производить сжатие изображения.
Справедливо приближенное неравенство
где S p = diag (s 1 ,…, s p , 0,…, 0), в матрицах первые p столбцов и первые p строк соответственно совпадают со столбцами и строками матриц U, V, а остальные элементы равны нулю.
Следовательно, вместо матрицы A размерности n x n требуется сохранять матрицы размерности n x p, p x n и строку из p
чисел s k . Т.е. получим сжатие с коэффициентом
Анализ влияния сохраняемого количества сингулярных значений на качество
сжатого черно-белого изображения. Выбор числа p можно характеризовать значениями параметра :
Рассматривается алгоритм, позволяющий решать частную задачу сингулярного
разложения матрицы - получение определенного числа главных сингулярных чисел.
Максимизация столбца. Пусть А = (a ij ) - вещественная квадратная матрица
порядка n. Будем обозначать a k = (a 1 k , …, a nk ) T ее
k-ый столбец, а через |a k |, (a k , a p ) - евклидову норму и скалярное
произведение вектор-столбцов.
Обозначим через ортогональную матрицу с элементами , а остальные диагональные элементы
равны единице, внедиагональные - нулю.
Рассмотрим матрицу . Для столбцов матрицы В имеем
Угол будем выбирать так, что норма первого столбца была бы максимальной.
Максимизирующий угол , определяется следующим правилом:
Свойство 1. Если , то , т.е. норма первого столбца не убывает при рассматриваемом
преобразовании матрица А.
Свойство 2. Если , то , т.е. новые столбцы ортогональны.
Итерационная последовательность матриц. Пусть , где - ортогональная матрица перестановки
первого столбца с максимальным по норме столбцом матрицы А. Рассмотрим
последовательность
где целочисленный индекс p = p(k) изменяется циклически от 2 до n при возрастании k. Номер матрицы обозначает номер столбца, который
преобразуется вместе с первым. Матрицы с углом определяются, кроме , правилами пункта 1. Так как первый
столбец является наибольшим в матрице , то выполняются свойства 1 и 2 для
столбцов всех матриц .
Лемма. Последовательность сходится поэлементно при [3].
Обозначим предельную матрицу , Пусть , тогда . Ортогональные матрицы также сходятся, обозначим их
предельную матрицу . Справедливо равенство
Следствие. Первый столбец предельной матрицы уже не может быть увеличен нашей
итерационной процедурой.
Отсюда следует, что этот столбец ортогонален всем остальным, иначе
можно было построить матрицу , которая увеличила бы норму .
Сингулярное разложение. Процедурой (7) - (9) будем называть построение
последовательности (9), максимизирующей указанный столбец. Эта процедура для
первого столбца приводит к матрице , первый столбец которой ортогонален
остальным, обозначим эту матрицу через , то есть и .
Для второго столбца матрицы может быть осуществлена процедура
(7) - (9) (предварительно поставив на его место максимальный по норме среди
старших по номеру), индекс p = p(k) изменяется циклически от 3 до n при возрастании k. Полученную в пределе матрицу обозначим ; ее первые два столбца ортогональны
остальным. Предельную ортогональную матрицу в этой процедуре будем обозначать , т.е. .
Для проведем максимизацию нормы третьего столбца, предельные
матрицы обозначим через и через . Продолжая таким образом, получим после применения (n - 2) раза этой процедуры к матрице матрицу , столбцы которой взаимно
ортогональны, и выполняется равенство , где - ортогональная.
Пусть , где s k - норма k-го столбца
матрицы . Мы имеем , W - ортогональная, и для матрицы А получаем SVD-разложение A.
Для BMP-матриц выбранных изображений
получить сингулярные числа и коэффициенты сжатия .
Оставляя первые p
сингулярных чисел получить BMP-матрицы
сжатых изображений, получить их представления на экране; выбрать значения p, для которых сжатые будут очень
хорошего качества, хорошего, удовлетворительного, плохого и идентифицируемого.
Исследовать разницу сжатий изображений различных размеров.
По этим p сингулярным числам определить F-нормы сжатых изображений, числа - отношения сжатой F-нормы к F-норме исходного изображения и коэффициенты сжатия .
Результаты исследования динамики сингулярных чисел p (табл. 1) и коэффициентов сжатия (табл. 2) различных размерностей:
На результаты исследования влияли качество и композиции изображений, а
при p = 768 влиял размер, так как
использовались матрицы изображения размерности m x n.
Также было выполнено сжатие цветного изображения.
Для поставленной в работе задачи было выполнено:
. изучено сингулярное разложение и SVD-сжатие изображений,
2. разработан алгоритм сжатия изображения в MathCAD,
. изучена особенность динамики сингулярных чисел,
. проведен анализ динамики сингулярных чисел и коэффициентов
сжатия при сжатии изображения,
. произведено сжатие цветного изображения.
В практической части были использованы BMP-изображения различных размеров: 256х256, 512х512,
1024х768. По p сингулярным числам найдены F- норма Фробениуса сжатых
изображений, числа - отношения сжатой F-нормы к F-норме исходного
изображения и коэффициенты сжатия .
При SVD-сжатии изображение преобразуют в
вектор, сингулярные числа которого расположены в порядке убывания их
значимости, картинка может быть восстановлена с использованием некоторого
количества первых сингулярных чисел. Чем большее элементов будет использовано,
тем лучше будет качество восстановленного изображения.
1. Форсайт
Дж., Малькольм М., Моулер К. Машинные методы математических вычислений: Пер. с
англ. - М.: Мир, 1980. - 279 с.
2. Деммель
Дж. Вычислительная линейная алгебра - М.: Мир, 2001. - 429 с.
. Прэтт
У. Цифровая обработка изображений: Пер. с англ. - М.: Мир, 1982. - Кн. 1 - 312
с.
. Сингулярная
разложение [Электронный ресурс]
. Стрижов
В.В. Информационное моделирование [Электронный ресурс]
. Логинов
Н.В. Сингулярное разложение матриц. - М.: МГАПИ, 1996. - 80 с.
. Смирнов
С.И., Михайлов В.В., Остриков В.Н. Применение рандомизированного метода главных
компонент для сжатия данных гиперспектральной съемки // Современные проблемы
дистанционного зондирования Земли из космоса. - М.: Издательство КИРАН, 2014. -
С. 9-17.
9. Харебов
К.С. Компьютерные методы решения задачи наименьших квадратов и проблемы
собственных значений. - Владикавказ: Издательство СОГУ, 1995. - 76 с.
10. Фаддеев
Д.К., Фаддеева В.Н. Вычислительные методы линейной алгебры. - М.: Физматгиз,
1963. - 536 с.
. Марчук
Г.И. Методы вычислительной математики. - М.: Наука, 1980. - 456 с.
. Кабанихин
С.И., Кривотько О.И. Сингулярное разложение в задаче об источнике // Сибирский
журнал вычислительной математики. - Новосибирск: Издательство СО РАН, 2012. -
Т. 15, №2. - С. 101-107.
. Загребнюк
В.И., Насиров Ф.В. Разложение цветных изображений на сингулярные компоненты //
Восточно-европейский журнал передовых технологий. - Харьков: Технологический
центр, 2013. - Т. 4, №2 (64). - С. 15 - 19.
. Савостьянов
Д.В. Быстрая полинейная аппроксимация матриц и интегральные уравнения. - М. ИВМ
РАН, 2006. - 144 с.
. Голуб
Дж., Ван Лоун Ч. Матричные вычисления: Пер. с англ. - М.: Мир, 1999. - 548 с.
. Ибрагимов
И.В. Новый подход к решению задачи обобщённого сингулярного разложения //
Матричные методы и вычисления. - М.: ИВМ РАН, 1999. - С. 193-201.
. Сильвестров
И.Ю. Анализ сингулярного разложения линеаризованного оператора динамической
теории упругости для случая вертикального сейсмического профилирования //
Вычислительные технологии. - Новосибирск: Издательство СО РАН, 2007. - Т. 12,
№6. - С. 90-100.
Похожие работы на - SVD-сжатие, модификации Дипломная (ВКР). Информационное обеспечение, программирование.
Медицина Древней Месопотамии И Древнего Египта Реферат
Реферат: Дифференциальная диагностика острого коронарного синдрома и острой сердечной недостаточности
Практическое задание по теме Адресація і маршрутизація в мережах TCP/IP. Засоби ОС Windows та Linux для аналізу стану мережі
Реферат: На распутье. Скачать бесплатно и без регистрации
Реферат На Тему Оптимизация Налога На Имущество Для Субъектов Малого Предпринимательства
Искусство Средних Веков Реферат
Николаевская Россия В Поэме Мертвые Души Сочинение
Правильное Написание Эссе По Обществознанию Егэ
Реферат На Тему Здоровый Образ Жизни На Татарском Языке
Какой Шрифт Должен Быть В Курсовой Работе
Смута В России Реферат
Курсовая работа по теме Эволюция международной валютной системы
Роль Музыки В Жизни Человека Реферат
Реферат: Проектирование червячного редуктора
Дипломная работа: Стан захисту лісів Чернігівської області
Лекция по теме Общие сведения о термодинамических системах
Предназначение Поэзии Сочинение
Дипломная работа по теме Анализ показателей эффективности предприятия ПАО НК Роснефть
Курсовая работа: Структура иерархии классов "Экран курсового проектирования"
Курсовая работа по теме Особенности отбора предметного содержания при изучении химии в средней школе
Курсовая работа: Правила подготовки и оформления документов
Реферат: Ленточные машины, технология работы
Реферат: Salvation Army Makes A Difference Essay Research