{ "cells": [ { "cell_type": "markdown", "metadata": { "tags": [] }, "source": [ "## Мультимодальное объединение для получения прогнозов по аудио и видео `FI V2`\n", "\n", "
\n", " \n", "
\n", "\n", "
" ] }, { "cell_type": "code", "execution_count": 1, "metadata": { "nbsphinx": "hidden", "tags": [] }, "outputs": [], "source": [ "import os # Взаимодействие с файловой системой\n", "import sys # Доступ к некоторым переменным и функциям Python\n", "\n", "PATH_TO_SOURCE = os.path.abspath(os.path.dirname(globals()['_dh'][0]))\n", "PATH_TO_ROOT = os.path.join(PATH_TO_SOURCE, '..', '..', '..')\n", "\n", "sys.path.insert(0, os.path.abspath(PATH_TO_ROOT))" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Импорт необходимых инструментов" ] }, { "cell_type": "code", "execution_count": 2, "metadata": {}, "outputs": [], "source": [ "from oceanai.modules.lab.build import Run" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Сборка" ] }, { "cell_type": "code", "execution_count": 3, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:17] OCEANAI - персональные качества личности человека:**
    Авторы:
        Рюмина Елена [ryumina_ev@mail.ru]
        Рюмин Дмитрий [dl_03.03.1991@mail.ru]
        Карпов Алексей [karpov@iias.spb.su]
    Сопровождающие:
        Рюмина Елена [ryumina_ev@mail.ru]
        Рюмин Дмитрий [dl_03.03.1991@mail.ru]
    Версия: 1.0.0a40
    Лицензия: BSD License

" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "_b5 = Run(\n", " lang = 'ru', # Язык\n", " color_simple = '#333', # Цвет обычного текста (шестнадцатеричный код)\n", " color_info = '#1776D2', # Цвет текста содержащего информацию (шестнадцатеричный код)\n", " color_err = '#FF0000', # Цвет текста содержащего ошибку (шестнадцатеричный код)\n", " color_true = '#008001', # Цвет текста содержащего положительную информацию (шестнадцатеричный код)\n", " bold_text = True, # Жирное начертание текста\n", " num_to_df_display = 30, # Количество строк для отображения в таблицах\n", " text_runtime = 'Время выполнения', # Текст времени выполнения\n", " metadata = True # Отображение информации о библиотеке\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Получение и отображение версий установленных библиотек\n", "\n", "> - `_b5.df_pkgs_` - DataFrame c версиями установленных библиотек" ] }, { "cell_type": "code", "execution_count": 4, "metadata": {}, "outputs": [ { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
PackageVersion
1OpenCV4.10.0
2MediaPipe0.10.14
3NumPy1.26.4
4SciPy1.14.1
5Pandas2.2.3
6Scikit-learn1.5.2
7OpenSmile2.5.0
8Librosa0.10.2.post1
9AudioRead3.0.1
10IPython8.28.0
11Requests2.32.3
12JupyterLab4.2.5
13LIWC0.5.0
14Transformers4.45.1
15Sentencepiece0.2.0
16Torch2.4.1+cu118
17Torchaudio2.4.1+cu118
18Torchvision0.19.1+cu118
\n", "
" ], "text/plain": [ " Package Version\n", "1 OpenCV 4.10.0\n", "2 MediaPipe 0.10.14\n", "3 NumPy 1.26.4\n", "4 SciPy 1.14.1\n", "5 Pandas 2.2.3\n", "6 Scikit-learn 1.5.2\n", "7 OpenSmile 2.5.0\n", "8 Librosa 0.10.2.post1\n", "9 AudioRead 3.0.1\n", "10 IPython 8.28.0\n", "11 Requests 2.32.3\n", "12 JupyterLab 4.2.5\n", "13 LIWC 0.5.0\n", "14 Transformers 4.45.1\n", "15 Sentencepiece 0.2.0\n", "16 Torch 2.4.1+cu118\n", "17 Torchaudio 2.4.1+cu118\n", "18 Torchvision 0.19.1+cu118" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 0.013 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "_b5.libs_vers(runtime = True, run = True)" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Анализ аудио информации (формирование и загрузка весов моделей)" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Формирование нейросетевой архитектуры модели для получения оценок по экспертным признакам (аудио модальность)\n", "\n", "> - `_b5.audio_model_hc_` - Нейросетевая модель **nn.Module** для получения оценок по экспертным признакам" ] }, { "cell_type": "code", "execution_count": 5, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:17] Формирование нейросетевой архитектуры модели для получения оценок по экспертным признакам (аудио модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 0.013 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "res_load_audio_model_hc = _b5.load_audio_model_hc(\n", " show_summary = False, # Отображение сформированной нейросетевой архитектуры модели\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Загрузка весов нейросетевой модели для получения оценок по экспертным признакам (аудио модальность)\n", "\n", "> - `_b5.audio_model_hc_` - Нейросетевая модель **nn.Module** для получения оценок по экспертным признакам" ] }, { "cell_type": "code", "execution_count": 6, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:17] Загрузка весов нейросетевой модели для получения оценок по экспертным признакам (аудио модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:21] Загрузка файла \"weights_2022-05-05_11-27-55.pth\" 100.0% ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 3.485 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_save_ = './models' # Директория для сохранения файла\n", "_b5.chunk_size_ = 2000000 # Размер загрузки файла из сети за 1 шаг\n", "\n", "url = _b5.weights_for_big5_['audio']['fi']['hc']['googledisk']\n", "\n", "res_load_audio_model_weights_hc = _b5.load_audio_model_weights_hc(\n", " url = url, # Полный путь к файлу с весами нейросетевой модели\n", " force_reload = True, # Принудительная загрузка файла с весами нейросетевой модели из сети\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Формирование нейросетевой архитектуры модели для получения оценок по нейросетевым признакам (аудио модальность)\n", "\n", "> - `_b5.audio_model_nn_` - Нейросетевая модель **nn.Module** для получения оценок по нейросетевым признакам" ] }, { "cell_type": "code", "execution_count": 7, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:21] Формирование нейросетевой архитектуры для получения оценок по нейросетевым признакам (аудио модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 1.067 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "res_load_audio_model_nn = _b5.load_audio_model_nn(\n", " show_summary = False, # Отображение сформированной нейросетевой архитектуры модели\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Загрузка весов нейросетевой модели для получения оценок по нейросетевым признакам (аудио модальность)\n", "\n", "> - `_b5.audio_model_nn_` - Нейросетевая модель **nn.Module** для получения оценок по нейросетевым признакам" ] }, { "cell_type": "code", "execution_count": 8, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:22] Загрузка весов нейросетевой модели для получения оценок по нейросетевым признакам (аудио модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:25] Загрузка файла \"weights_2022-05-03_07-46-14.pth\"** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 2.936 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_save_ = './models' # Директория для сохранения файла\n", "_b5.chunk_size_ = 2000000 # Размер загрузки файла из сети за 1 шаг\n", "\n", "url = _b5.weights_for_big5_['audio']['fi']['nn']['googledisk']\n", "\n", "res_load_audio_model_weights_nn = _b5.load_audio_model_weights_nn(\n", " url = url, # Полный путь к файлу с весами нейросетевой модели\n", " force_reload = False, # Принудительная загрузка файла с весами нейросетевой модели из сети\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Анализ видео информации (формирование и загрузка весов моделей)" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Формирование нейросетевой архитектуры модели для получения оценок по экспертным признакам (видео модальность)\n", "\n", "> - `_b5.video_model_hc_` - Нейросетевая модель **nn.Module** для получения оценок по экспертным признакам" ] }, { "cell_type": "code", "execution_count": 9, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:25] Формирование нейросетевой архитектуры модели для получения оценок по экспертным признакам (видео модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 0.002 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "res_load_video_model_hc = _b5.load_video_model_hc(\n", " lang = 'en',\n", " show_summary = False, # Отображение сформированной нейросетевой архитектуры модели\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Загрузка весов нейросетевой модели для получения оценок по экспертным признакам (видео модальность)\n", "\n", "> - `_b5.video_model_hc_` - Нейросетевая модель **nn.Module** для получения оценок по экспертным признакам" ] }, { "cell_type": "code", "execution_count": 10, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:25] Загрузка весов нейросетевой модели для получения оценок по экспертным признакам (видео модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:28] Загрузка файла \"weights_2022-08-27_18-53-35.pth\" 100.0% ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 3.298 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_save_ = './models' # Директория для сохранения файла\n", "_b5.chunk_size_ = 2000000 # Размер загрузки файла из сети за 1 шаг\n", "\n", "url = _b5.weights_for_big5_['video']['fi']['hc']['googledisk']\n", "\n", "res_load_video_model_weights_hc = _b5.load_video_model_weights_hc(\n", " url = url, # Полный путь к файлу с весами нейросетевой модели\n", " force_reload = True, # Принудительная загрузка файла с весами нейросетевой модели из сети\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Формирование нейросетевой архитектуры для получения нейросетевых признаков (видео модальность)\n", "\n", "> - `_b5.video_model_deep_fe_` - Нейросетевая модель **nn.Module** для получения нейросетевых признаков" ] }, { "cell_type": "code", "execution_count": 11, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:28] Формирование нейросетевой архитектуры для получения нейросетевых признаков (видео модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 0.114 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "res_load_video_model_deep_fe = _b5.load_video_model_deep_fe(\n", " show_summary = False, # Отображение сформированной нейросетевой архитектуры модели\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Загрузка весов нейросетевой модели для получения нейросетевых признаков (видео модальность)\n", "\n", "> - `_b5.video_model_deep_fe_` - Нейросетевая модель **nn.Module** для получения нейросетевых признаков" ] }, { "cell_type": "code", "execution_count": 12, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:28] Загрузка весов нейросетевой модели для получения нейросетевых признаков (видео модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:47] Загрузка файла \"weights_2022-11-01_12-27-07.pth\" 100.0% ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 19.075 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_save_ = './models' # Директория для сохранения файла\n", "_b5.chunk_size_ = 2000000 # Размер загрузки файла из сети за 1 шаг\n", "\n", "url = _b5.weights_for_big5_['video']['fi']['fe']['googledisk']\n", "\n", "res_load_video_model_weights_deep_fe = _b5.load_video_model_weights_deep_fe(\n", " url = url, # Полный путь к файлу с весами нейросетевой модели\n", " force_reload = True, # Принудительная загрузка файла с весами нейросетевой модели из сети\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Формирование нейросетевой архитектуры модели для получения оценок по нейросетевым признакам (видео модальность)\n", "\n", "> - `_b5.video_model_nn_` - Нейросетевая модель **nn.Module** для получения оценок по нейросетевым признакам" ] }, { "cell_type": "code", "execution_count": 13, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:48] Формирование нейросетевой архитектуры для получения оценок по нейросетевым признакам (видео модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 0.023 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "res_load_video_model_nn = _b5.load_video_model_nn(\n", " show_summary = False, # Отображение сформированной нейросетевой архитектуры модели\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Загрузка весов нейросетевой модели для получения оценок по нейросетевым признакам (видео модальность)\n", "\n", "> - `_b5.video_model_nn_` - Нейросетевая модель **nn.Module** для получения оценок по нейросетевым признакам" ] }, { "cell_type": "code", "execution_count": 14, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:48] Загрузка весов нейросетевой модели для получения оценок по нейросетевым признакам (видео модальность) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:52] Загрузка файла \"weights_2022-03-22_16-31-48.pth\"** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 4.148 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_save_ = './models' # Директория для сохранения файла\n", "_b5.chunk_size_ = 2000000 # Размер загрузки файла из сети за 1 шаг\n", "\n", "url = _b5.weights_for_big5_['video']['fi']['nn']['googledisk']\n", "\n", "res_load_video_model_weights_nn = _b5.load_video_model_weights_nn(\n", " url = url, # Полный путь к файлу с весами нейросетевой модели\n", " force_reload = False, # Принудительная загрузка файла с весами нейросетевой модели из сети\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Анализ мультимодальной информации (формирование, загрузка весов моделей, получение оценок персональных качеств)" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Формирование нейросетевых архитектур моделей для получения результатов оценки персональных качеств (мультимодальное объединение)\n", "\n", "> - `_b5.av_models_b5_` - Нейросетевые модели **nn.Module** для получения результатов оценки персональных качеств" ] }, { "cell_type": "code", "execution_count": 15, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:52] Формирование нейросетевых архитектур моделей для получения результатов оценки персональных качеств (мультимодальное объединение) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 0.002 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "res_load_av_models_b5 = _b5.load_av_models_b5(\n", " show_summary = False, # Отображение сформированной нейросетевой архитектуры модели\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Загрузка весов нейросетевых моделей для получения результатов оценки персональных качеств (мультимодальное объединение)\n", "\n", "> - `_b5.av_models_b5_` - Нейросетевые модели **nn.Module** для получения результатов оценки персональных качеств" ] }, { "cell_type": "code", "execution_count": 16, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 14:52:52] Загрузка весов нейросетевых моделей для получения результатов оценки персональных качеств (мультимодальное объединение) ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:54] Загрузка файла \"weights_2022-08-28_11-14-35.pth\" 100.0% ...** **Открытость опыту**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:56] Загрузка файла \"weights_2022-08-28_11-08-10.pth\" 100.0% ...** **Добросовестность**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:52:59] Загрузка файла \"weights_2022-08-28_11-17-57.pth\" 100.0% ...** **Экстраверсия**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:53:01] Загрузка файла \"weights_2022-08-28_11-25-11.pth\" 100.0% ...** **Доброжелательность**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 14:53:03] Загрузка файла \"weights_2022-06-14_21-44-09.pth\" 100.0% ...** **Эмоциональная стабильность**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 11.693 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_save_ = './models' # Директория для сохранения файла\n", "_b5.chunk_size_ = 2000000 # Размер загрузки файла из сети за 1 шаг\n", "\n", "url_openness = _b5.weights_for_big5_['av']['fi']['b5']['openness']['googledisk']\n", "url_conscientiousness = _b5.weights_for_big5_['av']['fi']['b5']['conscientiousness']['googledisk']\n", "url_extraversion = _b5.weights_for_big5_['av']['fi']['b5']['extraversion']['googledisk']\n", "url_agreeableness = _b5.weights_for_big5_['av']['fi']['b5']['agreeableness']['googledisk']\n", "url_non_neuroticism = _b5.weights_for_big5_['av']['fi']['b5']['non_neuroticism']['googledisk']\n", "\n", "res_load_av_models_weights_b5 = _b5.load_av_models_weights_b5(\n", " url_openness = url_openness, # Открытость опыту\n", " url_conscientiousness = url_conscientiousness, # Добросовестность\n", " url_extraversion = url_extraversion, # Экстраверсия\n", " url_agreeableness = url_agreeableness, # Доброжелательность\n", " url_non_neuroticism = url_non_neuroticism, # \"Эмоциональная стабильность\n", " force_reload = True, # Принудительная загрузка файла с весами нейросетевой модели из сети\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "#### Получение прогнозов (мультимодальное объединение)\n", "\n", "> - `_b5.df_files_` - DataFrame с данными\n", "> - `_b5.df_accuracy_` - DataFrame с результатами вычисления точности" ] }, { "cell_type": "code", "execution_count": 17, "metadata": {}, "outputs": [ { "data": { "text/markdown": [ "**[2024-10-09 16:17:33] Получение прогнозов и вычисление точности (мультимодальное объединение) ...**

    2000 из 2000 (100.0%) ... test80_25\\_Q4wOgixh7E.004.mp4 ...

" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
PathOpennessConscientiousnessExtraversionAgreeablenessNon-Neuroticism
Person ID
113kjwEtSyXc.003.mp40.5552850.5076430.441260.5410620.486505
21Lv72Si4GnY.000.mp40.5567820.4421790.5033650.5573680.520389
31uC-2TZqplE.003.mp40.474690.5684260.3346020.4933050.459734
42Z8Xi_DTlpI.000.mp40.6640590.6236770.59020.5998280.637361
53df_Uk9EmwU.002.mp40.6397710.5312040.544980.5850630.545633
63gmc2kLV4Bo.003.mp40.6778140.6674410.6230280.6143090.64445
73hKgh9AB3tk.003.mp40.4031660.3975860.3355590.4979020.398648
83S72dDIm1fM.005.mp40.5774340.5972930.4957710.6392570.59949
93tPq9fNOXZQ.000.mp40.5430160.4521050.4467060.4813980.414833
1043tayteIFRk.001.mp40.5473570.5045160.4286250.5758480.526416
114RKQGZzPClk.000.mp40.5499410.4013220.4471950.5201760.496661
126zm71IHOCZA.005.mp40.4586760.4300760.3168560.4975220.459488
137qGYGbIg45c.001.mp40.3118430.3212190.2212010.3757890.243581
148YQKwMdiaAE.003.mp40.643090.5121770.4848260.507230.556773
159Crw2RtrBcY.005.mp40.6522840.8424360.5368530.7104650.746347
169eNHxfOV2Kg.005.mp40.5977930.5286870.4542040.4913270.560673
179J-KIPMQmqk.002.mp40.5737720.6753750.477720.6177650.626578
189RfE2-aTvaM.002.mp40.5569510.5724270.4619650.6162680.576087
199_6auSk_wkY.002.mp40.6573490.6292920.6334810.61220.625547
20aaylz9A9K80.000.mp40.6603840.5431070.6426260.6033710.628241
21Af_F0IzHK6o.002.mp40.5449450.4771080.408230.5573370.500925
22Ah5PEPT4xbo.000.mp40.5430.4668570.4220510.5025220.461761
23AotbiNsU85A.003.mp40.4626940.4343220.3465880.4285350.356066
24BLc_GvsbI1U.001.mp40.6349530.6339470.5853650.6160670.608561
25bLOSPQ8MAC8.005.mp40.4539690.5816370.3494980.5287740.470935
26bPLhV0PGR50.001.mp40.6019430.5932420.4933920.5404260.504249
27bYXRyimxh7A.001.mp40.588270.5254220.4850680.5324130.535188
28ch2BcBv4SdQ.003.mp40.6903280.6477870.6995490.647510.689377
29cpch8WDydcM.004.mp40.5857240.5677170.5039090.5562930.542365
30De4i7-FX9Og.002.mp40.644880.5873830.6181460.6149090.62523
\n", "
" ], "text/plain": [ " Path Openness Conscientiousness Extraversion \\\n", "Person ID \n", "1 13kjwEtSyXc.003.mp4 0.555285 0.507643 0.44126 \n", "2 1Lv72Si4GnY.000.mp4 0.556782 0.442179 0.503365 \n", "3 1uC-2TZqplE.003.mp4 0.47469 0.568426 0.334602 \n", "4 2Z8Xi_DTlpI.000.mp4 0.664059 0.623677 0.5902 \n", "5 3df_Uk9EmwU.002.mp4 0.639771 0.531204 0.54498 \n", "6 3gmc2kLV4Bo.003.mp4 0.677814 0.667441 0.623028 \n", "7 3hKgh9AB3tk.003.mp4 0.403166 0.397586 0.335559 \n", "8 3S72dDIm1fM.005.mp4 0.577434 0.597293 0.495771 \n", "9 3tPq9fNOXZQ.000.mp4 0.543016 0.452105 0.446706 \n", "10 43tayteIFRk.001.mp4 0.547357 0.504516 0.428625 \n", "11 4RKQGZzPClk.000.mp4 0.549941 0.401322 0.447195 \n", "12 6zm71IHOCZA.005.mp4 0.458676 0.430076 0.316856 \n", "13 7qGYGbIg45c.001.mp4 0.311843 0.321219 0.221201 \n", "14 8YQKwMdiaAE.003.mp4 0.64309 0.512177 0.484826 \n", "15 9Crw2RtrBcY.005.mp4 0.652284 0.842436 0.536853 \n", "16 9eNHxfOV2Kg.005.mp4 0.597793 0.528687 0.454204 \n", "17 9J-KIPMQmqk.002.mp4 0.573772 0.675375 0.47772 \n", "18 9RfE2-aTvaM.002.mp4 0.556951 0.572427 0.461965 \n", "19 9_6auSk_wkY.002.mp4 0.657349 0.629292 0.633481 \n", "20 aaylz9A9K80.000.mp4 0.660384 0.543107 0.642626 \n", "21 Af_F0IzHK6o.002.mp4 0.544945 0.477108 0.40823 \n", "22 Ah5PEPT4xbo.000.mp4 0.543 0.466857 0.422051 \n", "23 AotbiNsU85A.003.mp4 0.462694 0.434322 0.346588 \n", "24 BLc_GvsbI1U.001.mp4 0.634953 0.633947 0.585365 \n", "25 bLOSPQ8MAC8.005.mp4 0.453969 0.581637 0.349498 \n", "26 bPLhV0PGR50.001.mp4 0.601943 0.593242 0.493392 \n", "27 bYXRyimxh7A.001.mp4 0.58827 0.525422 0.485068 \n", "28 ch2BcBv4SdQ.003.mp4 0.690328 0.647787 0.699549 \n", "29 cpch8WDydcM.004.mp4 0.585724 0.567717 0.503909 \n", "30 De4i7-FX9Og.002.mp4 0.64488 0.587383 0.618146 \n", "\n", " Agreeableness Non-Neuroticism \n", "Person ID \n", "1 0.541062 0.486505 \n", "2 0.557368 0.520389 \n", "3 0.493305 0.459734 \n", "4 0.599828 0.637361 \n", "5 0.585063 0.545633 \n", "6 0.614309 0.64445 \n", "7 0.497902 0.398648 \n", "8 0.639257 0.59949 \n", "9 0.481398 0.414833 \n", "10 0.575848 0.526416 \n", "11 0.520176 0.496661 \n", "12 0.497522 0.459488 \n", "13 0.375789 0.243581 \n", "14 0.50723 0.556773 \n", "15 0.710465 0.746347 \n", "16 0.491327 0.560673 \n", "17 0.617765 0.626578 \n", "18 0.616268 0.576087 \n", "19 0.6122 0.625547 \n", "20 0.603371 0.628241 \n", "21 0.557337 0.500925 \n", "22 0.502522 0.461761 \n", "23 0.428535 0.356066 \n", "24 0.616067 0.608561 \n", "25 0.528774 0.470935 \n", "26 0.540426 0.504249 \n", "27 0.532413 0.535188 \n", "28 0.64751 0.689377 \n", "29 0.556293 0.542365 \n", "30 0.614909 0.62523 " ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 16:17:33] Точность по отдельным персональным качествам личности человека ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
OpennessConscientiousnessExtraversionAgreeablenessNon-NeuroticismMean
Metrics
MAE0.08440.08020.07930.08580.08480.0829
Accuracy0.91560.91980.92070.91420.91520.9171
\n", "
" ], "text/plain": [ " Openness Conscientiousness Extraversion Agreeableness \\\n", "Metrics \n", "MAE 0.0844 0.0802 0.0793 0.0858 \n", "Accuracy 0.9156 0.9198 0.9207 0.9142 \n", "\n", " Non-Neuroticism Mean \n", "Metrics \n", "MAE 0.0848 0.0829 \n", "Accuracy 0.9152 0.9171 " ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**[2024-10-09 16:17:33] Средняя средних абсолютных ошибок: 0.0829, средняя точность: 0.9171 ...** " ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**Лог файлы успешно сохранены ...**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/markdown": [ "**--- Время выполнения: 5069.328 сек. ---**" ], "text/plain": [ "" ] }, "metadata": {}, "output_type": "display_data" }, { "data": { "text/plain": [ "True" ] }, "execution_count": 17, "metadata": {}, "output_type": "execute_result" } ], "source": [ "# Настройки ядра\n", "_b5.path_to_dataset_ = 'E:/Databases/FirstImpressionsV2/test' # Директория набора данных\n", "# Директории не входящие в выборку\n", "_b5.ignore_dirs_ = []\n", "# Названия ключей для DataFrame набора данных\n", "_b5.keys_dataset_ = ['Path', 'Openness', 'Conscientiousness', 'Extraversion', 'Agreeableness', 'Non-Neuroticism']\n", "_b5.ext_ = ['.mp4'] # Расширения искомых файлов\n", "\n", "# Полный путь к файлу с верными предсказаниями для подсчета точности\n", "url_accuracy = _b5.true_traits_['fi']['googledisk']\n", "\n", "_b5.get_av_union_predictions(\n", " depth = 1, # Глубина иерархии для получения аудио и видеоданных\n", " recursive = False, # Рекурсивный поиск данных\n", " sr = 44100, # Частота дискретизации\n", " window_audio = 2, # Размер окна сегмента аудио сигнала (в секундах)\n", " step_audio = 1, # Шаг сдвига окна сегмента аудио сигнала (в секундах)\n", " reduction_fps = 5, # Понижение кадровой частоты\n", " window_video = 10, # Размер окна сегмента видео сигнала (в секундах)\n", " step_video = 5, # Шаг сдвига окна сегмента видео сигнала (в секундах)\n", " lang = 'en',\n", " accuracy = True, # Вычисление точности\n", " url_accuracy = url_accuracy,\n", " logs = True, # При необходимости формировать LOG файл\n", " out = True, # Отображение\n", " runtime = True, # Подсчет времени выполнения\n", " run = True # Блокировка выполнения\n", ")" ] } ], "metadata": { "kernelspec": { "display_name": "Python 3 (ipykernel)", "language": "python", "name": "python3" }, "language_info": { "codemirror_mode": { "name": "ipython", "version": 3 }, "file_extension": ".py", "mimetype": "text/x-python", "name": "python", "nbconvert_exporter": "python", "pygments_lexer": "ipython3", "version": "3.10.11" } }, "nbformat": 4, "nbformat_minor": 4 }