Периодический повторный инструктаж проводится: Периодический повторный инструктаж — Большая Энциклопедия Нефти и Газа, статья, страница 1

Создайте бесплатную учетную запись, чтобы разблокировать свой собственный опыт чтения.

Как обновить модели нейронных сетей с дополнительными данными

Возможно, потребуется обновить модели нейронных сетей с глубоким обучением, используемые для прогнозного моделирования.

Это может быть связано с тем, что данные изменились с момента разработки и развертывания модели, или может быть так, что дополнительные помеченные данные стали доступными с момента разработки модели, и ожидается, что дополнительные данные улучшат производительность модель.

Важно экспериментировать и оценивать различные подходы при обновлении моделей нейронных сетей для новых данных, особенно если обновление модели будет автоматическим, например, по периодическому расписанию.

Существует множество способов обновления моделей нейронных сетей , хотя два основных подхода включают либо использование существующей модели в качестве отправной точки и ее повторное обучение, либо оставление существующей модели без изменений и объединение прогнозов существующей модели с новой моделью. .

В этом руководстве вы узнаете, как обновлять модели нейронных сетей с глубоким обучением в ответ на новые данные.

После прохождения этого руководства вы будете знать:

• Возможно, потребуется обновить модели нейронных сетей при изменении базовых данных или при появлении новых помеченных данных.
• Как обновить обученные модели нейронной сети только новыми данными или комбинациями старых и новых данных.
• Как создать ансамбль существующих и новых моделей, обученных только новым данным или комбинациям старых и новых данных.

Приступим.

Как обновить модели нейронных сетей дополнительными данными
Фото Джуди Галлахер, некоторые права защищены.

Обзор учебного пособия

Это руководство разделено на три части; их:

1. Обновление моделей нейронных сетей
2. Переподготовка обновлений
   1. Обновить модель только по новым данным
   2. Обновить модель на старых и новых данных
Стратегии обновления ансамбля
3. 1. Модель ансамбля с моделью только по новым данным
   Модель ансамбля
   2. с моделью на старых и новых данных

Обновление моделей нейронных сетей

Выбор и доработка модели нейронной сети с глубоким обучением для проекта прогнозного моделирования — это только начало.

Затем вы можете начать использовать модель для прогнозирования новых данных.

Одна из возможных проблем, с которыми вы можете столкнуться, заключается в том, что характер проблемы прогнозирования может со временем измениться.

Вы можете заметить это по тому факту, что эффективность прогнозов может начать снижаться со временем. Это может быть связано с тем, что предположения, сделанные и зафиксированные в модели, меняются или больше не выполняются.

Обычно это называется проблемой «дрейфа концепции », когда лежащие в основе распределения вероятностей переменных и отношения между переменными меняются со временем, что может отрицательно повлиять на модель, построенную на основе данных.

Подробнее о дрейфе концепций см. В руководстве:

Дрейф концепций может повлиять на вашу модель в разное время и зависит, в частности, от решаемой задачи прогнозирования и модели, выбранной для ее решения.

Может быть полезно отслеживать производительность модели с течением времени и использовать явное падение производительности модели в качестве триггера для внесения изменений в вашу модель, например повторного обучения ее на новых данных.

В качестве альтернативы вы можете знать, что данные в вашем домене меняются достаточно часто, поэтому изменение модели требуется периодически, например, еженедельно, ежемесячно или ежегодно.

Наконец, вы можете некоторое время работать со своей моделью и накапливать дополнительные данные с известными результатами, которые вы хотите использовать для обновления вашей модели, в надежде улучшить прогнозные характеристики.

Важно отметить, что вы можете гибко реагировать на изменение проблемы или появление новых данных.

Например, вы можете взять обученную модель нейронной сети и обновить веса модели, используя новые данные. Или мы можем оставить существующую модель нетронутой и объединить ее прогнозы с новой моделью, соответствующей новым доступным данным.

Эти подходы могут представлять две общие темы обновления моделей нейронных сетей в ответ на новые данные:

• Переучить стратегии обновления.
• Стратегии обновления ансамбля.

Давайте рассмотрим каждый по очереди.

Стратегии обновления для переподготовки

Преимущество моделей нейронных сетей заключается в том, что их веса можно обновлять в любое время при непрерывном обучении.

При реагировании на изменения в базовых данных или на доступность новых данных существует несколько различных стратегий на выбор при обновлении модели нейронной сети, например:

• Продолжить обучение модели только на новых данных.
• Продолжить обучение модели на старых и новых данных.

Мы также можем представить себе варианты вышеупомянутых стратегий, такие как использование выборки новых данных или выборки новых и старых данных вместо всех доступных данных, а также возможные взвешивания на основе экземпляров для выборочных данных.

Мы могли бы также рассмотреть расширения модели, которые замораживают слои существующей модели (например, чтобы веса модели не могли измениться во время обучения), затем добавляли новые слои с весами модели, которые могут изменяться, добавляя расширения к модели для обработки любых изменений в данные.Возможно, это вариант переобучения и ансамблевого подхода в следующем разделе, и мы пока оставим его.

Тем не менее, это две основные стратегии, которые следует учитывать.

Давайте конкретизируем эти подходы на рабочем примере.

Обновить модель только на новых данных

Мы можем обновить модель только по новым данным.

Одна крайняя версия этого подхода — не использовать какие-либо новые данные и просто повторно обучать модель на старых данных. Это может быть то же самое, что « ничего не делать, » в ответ на новые данные.С другой стороны, модель может быть приспособлена только к новым данным, отбрасывая старые данные и старую модель.

• Игнорировать новые данные, ничего не делать.
• Обновить существующую модель по новым данным.
• Совместите новую модель с новыми данными, удалите старую модель и данные.

В этом примере мы сосредоточимся на промежуточной позиции, но может быть интересно протестировать все три подхода к вашей проблеме и посмотреть, какой из них работает лучше всего.

Во-первых, мы можем определить набор данных синтетической двоичной классификации и разделить его на две части, а затем использовать одну часть как « старых данных », а другую часть как « новых данных .”

… # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.shape [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1)

Затем мы можем определить модель многослойного персептрона (MLP) и подогнать ее только к старым данным.

… # определить модель model = Последовательный () model.add (Dense (20, kernel_initializer = ‘he_normal’, Activation = ‘relu’, input_dim = n_features)) model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) модель.добавить (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0)

Затем мы можем представить себе сохранение модели и использование ее в течение некоторого времени.

Время идет, и мы хотим обновить его с учетом новых данных, которые стали доступны.

Это потребует использования гораздо меньшей скорости обучения, чем обычно, чтобы мы не смывали веса, полученные на старых данных.

Примечание : вам нужно будет определить скорость обучения, подходящую для вашей модели и набора данных, которая обеспечивает лучшую производительность, чем простая установка новой модели с нуля.

… # обновлять модель на новых данных только с меньшей скоростью обучения opt = SGD (скорость_обучения = 0.001, импульс = 0,9) # компилируем модель model.compile (optimizer = opt, loss = ‘binary_crossentropy’)

Затем мы можем подогнать модель к новым данным только с этой меньшей скоростью обучения.

… model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на новые данные model.fit (X_new, y_new, epochs = 100, batch_size = 32, verbose = 0)

В совокупности ниже приведен полный пример обновления модели нейронной сети только на основе новых данных.

# обновить нейронную сеть только новыми данными из sklearn.datasets импортировать make_classification из sklearn.model_selection import train_test_split из tensorflow.keras.models импортировать последовательный из tensorflow.keras.layers import Dense из tensorflow.keras.optimizers импорт SGD # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.форма [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определить модель model = Последовательный () model.add (Dense (20, kernel_initializer = ‘he_normal’, Activation = ‘relu’, input_dim = n_features)) model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель модель.компилировать (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0) # сохранить модель … # загрузить модель … # обновлять модель на новых данных только с меньшей скоростью обучения opt = SGD (скорость обучения = 0,001, импульс = 0,9) # компилируем модель model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на новые данные model.fit (X_new, y_new, epochs = 100, batch_size = 32, verbose = 0)

Теперь давайте посмотрим на обновление модели с учетом новых и старых данных.

Обновить модель на старых и новых данных

Мы можем обновить модель, используя как старые, так и новые данные.

Крайний вариант этого подхода — отказаться от модели и просто подогнать новую модель ко всем имеющимся данным, новым и старым.Менее радикальный вариант — использовать существующую модель в качестве отправной точки и обновлять ее на основе объединенного набора данных.

Опять же, неплохо протестировать обе стратегии и посмотреть, что хорошо работает для вашего набора данных.

В этом случае мы сосредоточимся на менее радикальной стратегии обновления.

Синтетический набор данных и модель могут соответствовать старому набору данных, как и раньше.

… # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.форма [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определить модель model = Последовательный () model.add (Dense (20, kernel_initializer = ‘he_normal’, Activation = ‘relu’, input_dim = n_features)) model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель модель.компилировать (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0)

Появляются новые данные, и мы хотим обновить модель, сочетая как старые, так и новые данные.

Во-первых, мы должны использовать гораздо меньшую скорость обучения, чтобы попытаться использовать текущие веса в качестве отправной точки для поиска.

Примечание : вам нужно будет определить скорость обучения, подходящую для вашей модели и набора данных, которая обеспечивает лучшую производительность, чем простая установка новой модели с нуля.

… # обновить модель с меньшей скоростью обучения opt = SGD (скорость обучения = 0,001, импульс = 0,9) # компилируем модель модель.компиляция (оптимизатор = opt, loss = ‘binary_crossentropy’)

Затем мы можем создать составной набор данных, состоящий из старых и новых данных.

… # создать составной набор старых и новых данных X_both, y_both = vstack ((X_old, X_new)), hstack ((y_old, y_new))

Наконец, мы можем обновить модель в этом составном наборе данных.

… # подгоняем модель на новые данные model.fit (X_both, y_both, epochs = 100, batch_size = 32, verbose = 0)

Полный пример обновления модели нейронной сети как на старых, так и на новых данных приведен ниже.

# обновить нейронную сеть как старыми, так и новыми данными из numpy import vstack из numpy import hstack из sklearn.datasets импортировать make_classification из sklearn.model_selection import train_test_split из tensorflow.keras.модели импортируют Последовательный из tensorflow.keras.layers import Dense из tensorflow.keras.optimizers импорт SGD # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.shape [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определить модель model = Последовательный () модель.add (Dense (20, kernel_initializer = ‘he_normal’, Activation = ‘relu’, input_dim = n_features)) model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0) # сохранить модель… # загрузить модель … # обновить модель с меньшей скоростью обучения opt = SGD (скорость обучения = 0,001, импульс = 0,9) # компилируем модель model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # создать составной набор старых и новых данных X_both, y_both = vstack ((X_old, X_new)), hstack ((y_old, y_new)) # подгоняем модель на новые данные model.fit (X_both, y_both, epochs = 100, batch_size = 32, verbose = 0)

Теперь давайте посмотрим, как использовать ансамблевые модели для реагирования на новые данные.

Стратегии обновления ансамбля

Ансамбль — это прогнозная модель, состоящая из нескольких других моделей.

Существует много различных типов ансамблевых моделей, хотя, возможно, самый простой подход — это усреднение прогнозов, полученных от нескольких различных моделей.

Подробнее об ансамблевых алгоритмах для нейронных сетей с глубоким обучением см. В руководстве:

Мы можем использовать ансамблевую модель в качестве стратегии при реагировании на изменения в базовых данных или на доступность новых данных.

Отражая подходы из предыдущего раздела, мы могли бы рассмотреть два подхода к алгоритмам ансамблевого обучения как стратегии реагирования на новые данные; их:

• Совокупность существующей модели и новой модели подходит только для новых данных.
• Ансамбль существующей модели и новой модели соответствует старым и новым данным.

Опять же, мы могли бы рассмотреть варианты этих подходов, такие как выборки старых и новых данных и более одной существующей или дополнительной модели, включенной в ансамбль.

Тем не менее, это две основные стратегии, которые следует учитывать.

Давайте конкретизируем эти подходы на рабочем примере.

с моделью только по новым данным

Мы можем создать ансамбль существующей модели и новую модель, подходящую только для новых данных.

Ожидается, что ансамблевые прогнозы будут работать лучше или будут более стабильными (с меньшей дисперсией), чем при использовании только старой или новой модели. Это следует проверить в вашем наборе данных перед принятием ансамбля.

Во-первых, мы можем подготовить набор данных и подогнать под старую модель, как мы это делали в предыдущих разделах.

… # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.форма [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определяем старую модель old_model = Последовательный () old_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) old_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) old_model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0.9) # компилируем модель old_model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные old_model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0)

Проходит время, и появляются новые данные.

Затем мы можем подогнать новую модель к новым данным, естественно обнаружив модель и конфигурацию, которые хорошо или лучше всего работают только с новым набором данных.

В этом случае мы просто будем использовать ту же архитектуру и конфигурацию модели, что и старая модель.

… # определить новую модель new_model = Последовательный () new_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) new_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) новая модель.добавить (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель new_model.compile (optimizer = opt, loss = ‘binary_crossentropy’)

Затем мы можем подогнать эту новую модель только к новым данным.

… # подгоняем модель на старые данные новая модель.fit (X_new, y_new, epochs = 150, batch_size = 32, verbose = 0)

Теперь, когда у нас есть две модели, мы можем делать прогнозы для каждой модели и вычислять среднее значение прогнозов как «прогноз ансамбля ».

… # делаем прогнозы с обеими моделями yhat1 = старая_модель.предсказать (X_new) yhat2 = новая_модель.predict (X_new) # объединить прогнозы в единый массив комбинированный = hstack ((yhat1, yhat2)) # рассчитать результат как среднее значение прогнозов yhat = среднее (объединенное, ось = -1)

Если объединить все вместе, ниже приведен полный пример обновления с использованием ансамбля существующей модели и новой модели, подходящей только для новых данных.

# объединить старую нейронную сеть с новой моделью, подходящей только для новых данных из numpy import hstack из среднего значения импорта из sklearn.datasets импортировать make_classification из sklearn.model_selection import train_test_split из tensorflow.keras.models импортировать последовательный из tensorflow.keras.layers import Dense из tensorflow.keras.optimizers импорт SGD # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.форма [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определяем старую модель old_model = Последовательный () old_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) old_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) old_model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0.9) # компилируем модель old_model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные old_model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0) # сохранить модель … # загрузить модель … # определить новую модель new_model = Последовательный () new_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) new_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) новая модель.добавить (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель new_model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные new_model.fit (X_new, y_new, epochs = 150, batch_size = 32, verbose = 0) # делаем прогнозы с обеими моделями yhat1 = old_model.predict (X_new) yhat2 = новая_модель.predict (X_new) # объединить прогнозы в единый массив комбинированный = hstack ((yhat1, yhat2)) # рассчитать результат как среднее значение прогнозов yhat = среднее (объединенное, ось = -1)

с моделью на старых и новых данных

Мы можем создать ансамбль существующей модели и новую модель, подходящую как для старых, так и для новых данных.

Ожидается, что ансамблевые прогнозы будут работать лучше или будут более стабильными (с меньшей дисперсией), чем при использовании только старой или новой модели.Это следует проверить в вашем наборе данных перед принятием ансамбля.

Во-первых, мы можем подготовить набор данных и подогнать под старую модель, как мы это делали в предыдущих разделах.

… # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.shape [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определяем старую модель old_model = Последовательный () old_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) old_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) old_model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель old_model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные старая_модель.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0)

Проходит время, и появляются новые данные.

Затем мы можем подогнать новую модель к комбинации старых и новых данных, естественно обнаружив модель и конфигурацию, которые хорошо или лучше всего работают только с новым набором данных.

В этом случае мы просто будем использовать ту же архитектуру и конфигурацию модели, что и старая модель.

… # определить новую модель new_model = Последовательный () new_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) new_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) new_model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость_обучения = 0.01, импульс = 0,9) # компилируем модель new_model.compile (optimizer = opt, loss = ‘binary_crossentropy’)

Мы можем создать составной набор данных из старых и новых данных, а затем подогнать новую модель к этому набору данных.

… # создать составной набор старых и новых данных X_both, y_both = vstack ((X_old, X_new)), hstack ((y_old, y_new)) # подгоняем модель на старые данные new_model.fit (X_both, y_both, эпохи = 150, размер_пакета = 32, подробный = 0)

Наконец, мы можем использовать обе модели вместе, чтобы делать ансамблевые прогнозы.

… # делаем прогнозы с обеими моделями yhat1 = old_model.predict (X_new) yhat2 = новая_модель.предсказать (X_new) # объединить прогнозы в единый массив комбинированный = hstack ((yhat1, yhat2)) # рассчитать результат как среднее значение прогнозов yhat = среднее (объединенное, ось = -1)

Объединяя все это вместе, ниже приводится полный пример обновления с использованием ансамбля существующей модели и новой модели, подходящей для старых и новых данных.

# объединить старую нейронную сеть с новой моделью, подходящей для старых и новых данных из numpy import hstack из numpy import vstack из среднего значения импорта из sklearn.datasets импортировать make_classification из sklearn.model_selection import train_test_split из tensorflow.keras.models импортировать последовательный из tensorflow.keras.layers import Dense из tensorflow.keras.optimizers импорт SGD # определить набор данных X, y = make_classification (n_samples = 1000, n_features = 20, n_informative = 15, n_redundant = 5, random_state = 1) # записываем количество входных функций в данные n_features = X.форма [1] # разделить на старые и новые данные X_old, X_new, y_old, y_new = train_test_split (X, y, test_size = 0.50, random_state = 1) # определяем старую модель old_model = Последовательный () old_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) old_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) old_model.add (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0.9) # компилируем модель old_model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # подгоняем модель на старые данные old_model.fit (X_old, y_old, epochs = 150, batch_size = 32, verbose = 0) # сохранить модель … # загрузить модель … # определить новую модель new_model = Последовательный () new_model.add (Dense (20, kernel_initializer = ‘he_normal’, активация = ‘relu’, input_dim = n_features)) new_model.add (Dense (10, kernel_initializer = ‘he_normal’, активация = ‘relu’)) новая модель.добавить (Плотный (1, активация = ‘сигмоид’)) # определяем алгоритм оптимизации opt = SGD (скорость обучения = 0,01, импульс = 0,9) # компилируем модель new_model.compile (optimizer = opt, loss = ‘binary_crossentropy’) # создать составной набор старых и новых данных X_both, y_both = vstack ((X_old, X_new)), hstack ((y_old, y_new)) # подгоняем модель на старые данные new_model.fit (X_both, y_both, эпохи = 150, размер_пакета = 32, подробный = 0) # делаем прогнозы с обеими моделями yhat1 = старая_модель.предсказать (X_new) yhat2 = новая_модель.predict (X_new) # объединить прогнозы в единый массив комбинированный = hstack ((yhat1, yhat2)) # рассчитать результат как среднее значение прогнозов yhat = среднее (объединенное, ось = -1)

Дополнительная литература

В этом разделе представлены дополнительные ресурсы по теме, если вы хотите углубиться.

Учебники

Сводка

В этом руководстве вы узнали, как обновлять модели нейронных сетей с глубоким обучением в ответ на новые данные.

В частности, вы выучили:

• Возможно, потребуется обновить модели нейронных сетей при изменении базовых данных или при появлении новых помеченных данных.
• Как обновить обученные модели нейронной сети только новыми данными или комбинациями старых и новых данных.
• Как создать ансамбль существующих и новых моделей, обученных только новым данным или комбинациям старых и новых данных.

Есть вопросы?
Задайте свои вопросы в комментариях ниже, и я постараюсь ответить.

Разрабатывайте проекты глубокого обучения с помощью Python!

Что, если бы вы могли разработать сеть за считанные минуты

… всего несколькими строками Python

Узнайте, как в моей новой электронной книге:
Deep Learning With Python

Он охватывает сквозных проектов по таким темам, как:
Многослойные персептроны , Сверточные сети и Рекуррентные нейронные сети и другие…

Наконец-то привнесите глубокое обучение в

Пропустить академики. Только результаты.

Почему вневременная проверка не стала более повсеместной?

Обучайте, проверяйте и тестируйте разделы на предмет несвоевременной производительности с учетом планирования и размышлений

(Эта часть также находится в TDS.) Цель машинного обучения с учителем — классифицировать немаркированные данные. Мы хотим, чтобы алгоритмы сообщали нам, совершит ли заемщик дефолт, покупатель совершит покупку, изображение содержит кошку, собаку, злокачественную опухоль или доброкачественный полип.Алгоритмы «учатся» делать эти классификации, используя маркированные данные, то есть данные, в которых мы знаем, действительно ли заемщик выполнил свои обязательства, совершил ли покупатель покупку и что на самом деле показывает блок пикселей. Обычно исследователи берут помеченные данные и разделяют их на три части: обучение, проверка и тестирование / задержка (терминология иногда отличается). Они обучают сотни моделей на данных поезда и выбирают одну модель, которая хорошо работает с данными проверки. Причина использования только подмножества помеченных данных для обучения алгоритма состоит в том, чтобы убедиться, что алгоритмы хорошо работают на любых данных , а не только на данных, используемых для обучения алгоритма.Исследователи часто повторяют этот шаг несколько раз, выбирая разные разбиения на обучение и проверку, чтобы убедиться, что производительность модели не зависит от конкретных данных проверки (k-кратная перекрестная проверка). В качестве последнего шага исследователи оценивают производительность модели на еще невидимых данных (тестовый набор). Это дает меру того, насколько хорошо модель будет работать с немаркированными данными. Эта классическая установка проиллюстрирована на рисунке ниже:

Рис. 1. Классическая поездка, проверка и разделение тестов
Выберите модель, которая хорошо работает на «проверке»
Оцените ее производительность на «испытании»

.

Вариант 1: своевременная проверка, своевременная проверка

Давайте посмотрим, что произойдет, если мы проигнорируем временное измерение данных и разделим все помеченные данные независимо от их временного измерения.Мы обучаем, проверяем и тестируем модель, используя данные из за тот же период времени . Мы делаем прогнозы для новых данных (скажем, на 2019 год), используя модель, обученную, проверенную и протестированную на помеченных данных за 2015–2018 годы. Рисунок ниже иллюстрирует эту настройку. Преимущество состоит в том, что мы используем самые свежие данные для обучения модели. Недостатком является то, что он предполагает, что отношения, существовавшие в прошлом, останутся такими же в будущем. Если отношения меняются со временем, наши оценочные показатели эффективности (которые мы рассчитали с использованием временных данных теста ) будут на превысить истинную производительность модели, т. Е.е. после развертывания модель будет работать хуже, чем мы ожидали.

Вариант 2: своевременная проверка, вневременная проверка

Другая возможность состоит в том, что мы продержимся в 2018 году, обучим модель, используя данные за 2015-2017 годы, и протестируем ее на данных 2018 года. Преимущество этого подхода в том, что мы явно оцениваем способность модели прогнозировать несвоевременность. Недостаток — возможность прогнозирования вне времени не учитывается при построении модели. Это связано с тем, что мы выбираем модель, которая хорошо работает с данными своевременной проверки .Более того, если мы не переобучаем модель с использованием полных данных за 2015–2018 годы, мы не будем использовать самые последние данные для прогнозов.

Вариант 3: «шаг вперед»

Переучивать или не переучивать

Когда мы делаем прогнозы на будущее, вероятно, будет хорошей идеей использовать как можно более свежие данные, чтобы зафиксировать самые недавние явления. Однако, если мы храним самые свежие данные (для оценки несвоевременной производительности), как в варианте 2, нам, вероятно, следует повторно обучить модель, используя все помеченные данные, прежде чем делать прогнозы. Переобучение показано на рисунке ниже:

.

В сети есть некоторые разногласия по поводу необходимости повторного обучения модели с использованием всех данных обучения и тестирования перед развертыванием. Кун и Джонсон кажутся довольно ясными, когда в главе о чрезмерной подгонке, разделении данных и настройке модели они говорят: «Затем мы строим окончательную модель со всеми обучающими данными, используя выбранные параметры настройки». (стр.65). Точно так же Эндрю Нг в одной из своих лекций говорит, что после выбора модели из процедуры перекрестной проверки мы можем «опционально» переобучить модель «на всем обучающем наборе.”

.

Полезно провести различие между параметрами модели и гиперпараметрами (также известными как параметры настройки). Гиперпараметры определяют структуру модели и, как правило, не могут быть оценены на основе данных. Они включают такие вещи, как сложность дерева, k в алгоритме KNN, набор функций, функциональная форма (например, линейная или квадратичная) и т. Д. Напротив, параметры модели включают коэффициенты в регрессии, правила дерева, опорные векторы. Их можно оценить с помощью данных.Этап построения модели — это поиск гиперпараметров. После того, как гиперпараметры (то есть структура модели) подтверждены, кажется, мало причин не использовать как можно больше данных для получения наиболее точных оценок параметров модели. Эти параметры следует использовать для развертывания модели и выполнения классификаций или прогнозов.

Заключение

Таким образом, если мы последуем классической настройке и проигнорируем временное измерение наших данных, как в варианте 1, мы понятия не имеем, как модель будет работать с несвоевременными данными.В варианте 2 у нас, по крайней мере, есть оценка несвоевременной производительности модели. Однако только если мы сделаем что-то вроде варианта 3, мы будем строить модели с намерением прогнозировать будущее. Независимо от того, что мы делаем, переобучение модели с использованием всех помеченных данных перед тем, как делать прогнозы, кажется хорошей идеей.

.

Мне сложно найти примеры приложений, в которых нет измерения времени. Я полагаю, что груда изображений МРТ, из которых только некоторые были помечены, является одним из примеров, но я считаю, что эти разовые проекты редки.Более того, хотя некоторые процессы стабильны во времени (например, классификация погоды или изображений — собака сегодня будет выглядеть так же, как собака завтра), такие процессы, как поведение клиентов, неизбежно изменятся со временем. Поэтому удивительно, что обсуждения (и реализация) вневременного тестирования и валидации не стали более повсеместными. Скорее всего, несвоевременная производительность хуже, чем своевременная, особенно если у вас много данных с метками во времени, не очень длинные временные ряды и нестационарный процесс.Однако отказ от проведения какой-либо оценки вне времени может беспокоить разработчиков, поскольку последующие данные покажут, что модель работает хуже, чем указанные своевременные показатели производительности.

Автоматическая переподготовка моделей с помощью конвейеров Kubeflow | Карл Вайнмайстер | kubeflow

Как реализовать воспроизводимый рабочий процесс машинного обучения, который адаптируется к новым данным

Как говорится, «единственная константа — это изменение». Когда мы строим модели машинного обучения, мы прогнозируем значения на основе данных, собранных в определенный момент времени.Со временем картина, которую видит модель, может стать более нечеткой по мере изменения условий.

Один из способов справиться с этой ситуацией — переобучить модель при значительных изменениях в данных. Хотя это может быть полезно, ручная переподготовка увеличивает накладные расходы, ее можно проводить в произвольное время или просто забыть. Автоматическая переподготовка моделей может помочь обеспечить переподготовку моделей с использованием последних доступных данных на основе заданной частоты или других условий.

Мы рассмотрим, как реализовать автоматическое переобучение модели с помощью компонента Pipelines в Kubeflow.Kubeflow — это платформа машинного обучения, работающая на популярной системе оркестровки контейнеров Kubernetes.

Мы будем использовать образец, демонстрирующий, как создать простой конвейер Kubeflow с использованием стандартных компонентов AI Platform.

Модель предсказывает количество сообщений о преступлениях, ожидаемых сегодня, с учетом ежедневных итогов за предыдущую неделю. Он использует данные о преступности Чикаго, которые общедоступны в BigQuery, и включает отчеты о преступлениях в Чикаго с 2001 года по настоящее время.

Для начала вам понадобится кластер Kubeflow.Вы можете настроить его на Google Cloud Platform (GCP) с помощью приложения для развертывания. На веб-сайте Kubeflow есть инструкции для многих сред, включая локальную среду. Вам также потребуется клонировать репозиторий Github, содержащий образец.

После настройки среды перейдите на домашнюю страницу Kubeflow в своем кластере, а затем перейдите на страницу записных книжек. Оттуда создайте сервер записной книжки и загрузите обе записной книжки в образце на сервер записной книжки.

Аналитическая записная книжка показывает, как работает модель.Модель использует тип рекуррентной нейронной сети (RNN), называемый долгосрочной краткосрочной памятью (LSTM). Рекуррентные нейронные сети могут прогнозировать последовательность входных данных, а архитектура LSTM предоставляет компонент «памяти», который может улучшить производительность модели. Модель реализована с помощью TensorFlow с использованием класса Keras LSTM.

В записной книжке проходят этапы создания модели, ее обучения и визуализации выходных данных. На приведенном ниже графике оранжевая линия показывает синим цветом прогнозы модели, наложенные на фактические значения.

Визуализация исторических отчетов о преступлениях вместе с прогнозируемыми значениями

Теперь, когда мы рассмотрели модель, давайте создадим конвейер, который будет загружать входные данные, обучать модель и развертывать ее программно.

В частности, конвейер будет состоять из трех задач:

1. Запросить исторических отчетов о преступлениях из BigQuery и сохранить как CSV в корзину Google Cloud Storage.
2. Обучите модель с помощью службы обучения AI Platform.
3. Разверните модель в службе прогнозирования платформы AI.

Дополнительную информацию о том, как работает Kubeflow Pipelines, можно найти в документации, а вот краткое введение. Конвейер определяется на доменно-специфическом языке (DSL) на основе Python, который описывает его этапы. Затем код DSL необходимо скомпилировать в промежуточный формат с помощью Pipelines SDK, чтобы его можно было использовать в механизме рабочего процесса Kubeflow Pipelines.

Каждая задача в конвейере будет выполняться в собственном контейнере Docker.Вы можете реализовать каждую задачу с помощью специального кода или использовать стандартные компоненты. В этом примере мы будем использовать компоненты GCP AI Platform для каждой задачи в конвейере.

Для начала вам потребуется создать проект Google Cloud Platform, если у вас его еще нет. Чтобы сохранить активы модели, вам нужно будет создать корзину Google Cloud Storage в своем проекте.

Теперь построим и запустим конвейер. В записной книжке конвейера начните с обновления необходимых параметров в разделе Константы, чтобы они соответствовали вашей среде.Теперь вы можете запускать каждый шаг в записной книжке. На последнем шаге вы получите ссылку на запуск для просмотра конвейера в пользовательском интерфейсе Kubeflow Pipelines.

Код определения конвейера компилируется в визуальный рабочий процесс.

Затем мы добавим этот конвейер в библиотеку конвейеров. Первый шаг — загрузить конвейер chicago.pipeline.tar.gz из службы Jupyter Notebook. Этот файл конвейера был создан, когда SDK скомпилировал конвейер.

Давайте загрузим этот файл конвейера на вкладке «Конвейеры» в пользовательском интерфейсе Kubeflow Pipelines.Назовем его «Чикагский криминальный трубопровод».

Загрузите конвейер, чтобы начать процесс

Теперь мы настроим повторяющийся запуск с только что созданным конвейером. Также можно запустить повторное обучение из внешней службы обработки событий, например, когда данные значительно изменились или выросли. При повторном запуске следует учитывать скорость изменения данных. Это должно происходить достаточно часто, избегая при этом ненужной переподготовки.

Переходим на вкладку «Эксперименты» и находим эксперимент, созданный вами в записной книжке конвейера.Щелкните эксперимент и создайте новый «Повторяющийся запуск». На этой странице вы можете выбрать «Chicago Crime Pipeline» и указать частоту переобучения. Параметр периодичности предназначен для планирования запусков на основе интервалов (например, каждые 2 недели), а параметр cron предоставляет аналогичные функции, но принимает семантику cron для определения расписания.

Задание поддерживает общие параметры, определенные в конвейере. Эти параметры позволяют вам запускать разные перестановки вашего конвейера, например, с разными гиперпараметрами или другой версией TensorFlow, которые согласованы и отслеживаются.Пример конвейера предоставляет значения по умолчанию для каждого параметра, чтобы можно было легко запускать задания.

Задайте параметры конвейера, включая частоту его выполнения.

Теперь вы создали повторяющийся запуск! Каждый раз, когда конвейер выполняется, он будет развертывать новую версию модели в том же месте, созданном с использованием согласованной среды.

Теперь вы можете видеть подробную информацию о каждом запуске на панели мониторинга конвейеров. В зависимости от того, как вы настроили свой проект, вы можете получить доступ к статистике точности модели в пользовательском интерфейсе или в TensorBoard для каждого запуска.

Каждый цикл конвейера можно просмотреть в пользовательском интерфейсе Kubeflow Pipelines.

Наша модель прогнозирования преступности в Чикаго иллюстрирует типичный сценарий, который выиграет от переобучения модели. Мы показали, как создать трехэтапный конвейер, который загружает последние данные, повторно обучает модель и автоматически развертывает модель. Наконец, мы показали, как настроить этот конвейер для работы в повторяющемся интервале с помощью Kubeflow Pipelines.

Я надеюсь, что эта статья показывает, что создание повторяемого рабочего процесса машинного обучения практично и доступно.Хотя мы продемонстрировали переобучение модели на GCP, любой произвольный процесс в любом кластере Kubernetes можно настроить в Kubeflow Pipelines. Мы надеемся, что Kubeflow поможет обеспечить воспроизводимость и отслеживание ваших экспериментов машинного обучения!

Основа для успешной стратегии непрерывного обучения

Фото Моники Пейковской на Unsplash

‍

Модели машинного обучения построены на предположении, что данные, используемые в производстве, будут аналогичны данным, которые наблюдались в прошлом. на котором мы обучили наши модели.Хотя это может быть верно для некоторых конкретных случаев использования, большинство моделей работают в динамических средах данных, где данные постоянно меняются и где возможны «дрейфы концепций», которые отрицательно влияют на точность и надежность моделей.

Чтобы справиться с этим, модели машинного обучения необходимо регулярно переобучать. Или, как указано в Google, «MLOps: конвейеры непрерывной доставки и автоматизации в машинном обучении»: « Чтобы решить эти проблемы и поддерживать точность вашей модели в производстве, вам необходимо сделать следующее: Активно контролировать качество вашей модели в производстве. […] и часто переобучайте свои серийные модели. »Эта концепция называется« Continuous Training » (CT) и является частью практики MLOps. Непрерывное обучение направлено на автоматическое и непрерывное переобучение модели для адаптации к изменениям, которые могут произойти в данных.

Существуют разные подходы / методики проведения непрерывной переподготовки, каждый из которых имеет свои плюсы, минусы и затраты. Тем не менее, как и сапожник, который ходит босиком, мы, специалисты по обработке данных, перебарщиваем с переобучением, иногда вручную, и часто используем его как «стандартное» решение. , не имея достаточной информации, связанной с производством.

Каждый вариант использования машинного обучения имеет свои собственные динамические среды данных, которые могут вызвать смещение концепций: от торговли в реальном времени к обнаружению мошенничества с злоумышленником, изменяющим распределение данных, или механизмам рекомендаций с множеством новых фильмов и новых тенденций. Тем не менее, независимо от варианта использования, при разработке стратегии непрерывного обучения необходимо решить три основных вопроса:

1 — Когда следует переобучать модель? Поскольку цель состоит в том, чтобы поддерживать актуальные и оптимальные модели в любой момент времени, как часто следует переобучать модель

2 — Какие данные следует использовать? Общее предположение для выбора адекватного набора данных состоит в том, что актуальность данных коррелирует с их недавним возрастом, что вызывает ряд вопросов: должны ли мы просто использовать новые данные или добавлять к более старым наборам данных? Каков хороший баланс между старыми и новыми данными? Насколько недавние данные считаются новыми или когда происходит разрыв между старыми и новыми данными?

3 — Что нужно переквалифицировать? Можем ли мы просто заменить данные и заново обучить ту же модель с теми же гиперпараметрами? Или нам следует использовать более навязчивый подход и запустить полный конвейер, имитирующий наш исследовательский процесс?

‍

На каждый из трех приведенных выше вопросов можно ответить по отдельности, и это может помочь определить оптимальную стратегию для каждого случая.Тем не менее, при ответе на эти вопросы есть список соображений, которые необходимо принять во внимание и которые мы исследовали здесь. Для каждого вопроса мы описываем разные подходы, соответствующие разным уровням автоматизации и зрелости процесса машинного обучения.

Когда переквалифицироваться?

Три наиболее распространенных стратегии: периодическая переподготовка, производительность на основе или на основе изменений данных.

Периодическая переподготовка

График периодической переподготовки — самый наивный и простой подход.Обычно это зависит от времени: модель переобучается каждые 3 месяца, но также может зависеть от объема, то есть для каждых 100 тысяч новых этикеток.

Преимущества периодической переподготовки столь же очевидны: это очень интуитивно понятный и управляемый подход, поскольку легко узнать, когда произойдет следующая итерация переподготовки, и легко реализовать .

Однако этот метод часто оказывается плохо приспособленным или неэффективным. Как часто вы переобучаете модель? Каждый день? Каждую неделю? Каждые три месяца? Раз в год? Хотя кто-то хочет частого переобучения для обновления наших моделей, переобучение модели слишком часто, когда нет реальной причины, т.е. нет дрейфа концепций, это дорого. Кроме того, даже когда переподготовка автоматизирована, для этого требуются важные ресурсы — как вычислительные, так и от ваших групп по анализу данных, которым необходимо контролировать процесс переподготовки и поведение новой модели в производственной среде после развертывания. Тем не менее, переподготовка с большими интервалами может упустить момент непрерывного переобучения и не сможет адаптироваться к изменениям данных, не говоря уже о рисках переобучения на зашумленных данных.

‍

В конце концов, график периодической переподготовки имеет смысл, если частота соответствует динамике вашего домена.В противном случае выбор случайного времени / вехи может подвергнуть вас риску и оставить вам модели, которые имеют меньшую актуальность, чем их предыдущая версия.

Триггер на основе производительности

Это почти здравый смысл, основанный на старой доброй инженерной пословице: «Если он не сломан, не чините его». Второй наиболее распространенный подход к определению момента переобучения — использование триггеров, основанных на производительности, и переобучение модели после обнаружения снижения производительности.

Этот подход, более эмпирический, чем первый, предполагает, что у вас есть непрерывное представление о производительности ваших моделей в производстве.

Основное ограничение, когда речь идет только о производительности, — это время, необходимое вам, чтобы получить достоверную информацию — если вы ее получите вообще. В случаях прогнозирования конверсии пользователей может потребоваться 30 или 60 дней, пока вы не получите достоверную информацию, или даже 6 месяцев или более в таких случаях, как обнаружение мошенничества с транзакциями или LTV. Если вам нужно ждать так долго, чтобы получить полную обратную связь, это означает, что вы слишком поздно переобучаете модель, после того как бизнес уже пострадал.

Еще один нетривиальный вопрос, на который необходимо ответить: что считается «ухудшением производительности»? вы можете зависеть от чувствительности ваших пороговых значений и точности калибровки, что может привести к слишком частой или недостаточной переобучению.

‍

В целом, использование триггеров, основанных на производительности, хорошо для случаев использования, когда есть быстрая обратная связь и большой объем данных, например, назначение ставок в реальном времени, когда вы можете измерить производительность модели как можно ближе к времени прогнозов за короткие промежутки времени и с высокой достоверностью (большой объем).

‍

Управляемый изменениями данных

Этот подход является наиболее динамичным и естественным образом запускает переобучение из динамизма домена.Измеряя изменения во входных данных, то есть изменения в распределении функций, используемых моделью, вы можете обнаружить отклонения данных, которые указывают на то, что ваша модель может быть устаревшей и ее необходимо сохранить на свежих данных.

Это альтернатива подходу, основанному на производительности, для случаев, когда у вас нет быстрой обратной связи или вы не можете оценить производительность модели в процессе производства в режиме реального времени. Кроме того, рекомендуется комбинировать и использовать этот подход даже при быстрой обратной связи, поскольку это может указывать на неоптимальную производительность даже без ухудшения качества. Понимание изменений данных для начала процесса переподготовки очень важно, особенно в динамических средах.

Скриншот с superwise.ai

‍

На приведенном выше графике, созданном службой мониторинга, показаны метрика дрейфа данных (верхний график) и КПЭ (нижний график) для маркетингового сценария использования. График дрейфа данных представляет собой временную шкалу, на которой ось Y показывает уровень дрейфа для каждого дня (т. Е. Данные за этот день) относительно обучающей выборки.В этом примере маркетингового использования новые кампании вводятся очень часто, и бизнес расширяется в новые страны. Очевидно, что потоки данных в производственной среде дрейфуют и становятся менее похожими на данные, на которых была обучена модель. Имея более полное представление о модели в производственной среде, итерация переобучения могла быть запущена задолго до того, как бизнес заметил бы снижение производительности.

‍

Итак, когда переучиваться? Это зависит от таких ключевых факторов, как: доступность ваших отзывов, объем ваших данных и ваше видение эффективности ваших моделей.В целом, не существует единого подхода к вопросу о выборе подходящего времени для переобучения. Скорее, и в зависимости от ваших ресурсов, цель должна заключаться в том, чтобы максимально ориентироваться на производство.

Какие данные следует использовать?

Хотя мы видели, что время — это все (то есть: когда мне переобучать свои модели?), Теперь давайте посмотрим на нерв всех MLOps: данные. Как при переподготовке выбрать правильные данные для использования?

Фиксировать размер окна

Самый наивный подход — использовать фиксированный размер окна в качестве обучающего набора.Например, используйте данные за последние X месяцев. Ясно, что преимущество метода заключается в его простоте, поскольку он очень прямолинеен.

Недостатки связаны с проблемой выбора правильного окна: если оно слишком широкое, оно может пропустить новые тенденции, а если оно слишком узкое, оно будет перегружено и шумно. При выборе размера окна следует также учитывать частоту переобучения: нет смысла переобучаться каждые 3 месяца, если вы используете только данные за последний месяц в качестве обучающей выборки.

Кроме того, выбранные данные могут сильно отличаться от данных, которые передаются в производственной среде, так как это может произойти сразу после точки изменения (в случае быстрого / внезапного изменения) или может содержать нерегулярные события (например, праздники или специальные дни, такие как день выборов), проблемы с данными и многое другое.

‍

В целом подход окна исправлений, как и любой другой «статический» метод, представляет собой простую эвристику, которая может хорошо работать в некоторых случаях, но не сможет уловить гипердинамичность вашей среды в тех случаях, когда скорость изменения универсален, а нерегулярные события — обычное дело, например, праздники или технические проблемы.

‍

Размер динамического окна

Подход с динамическим размером окна пытается решить некоторые ограничения предопределенного размера окна, определяя, сколько исторических данных должно быть включено в более управляемый данными способ и обрабатывая окно размер как еще один гиперпараметр, который можно оптимизировать в рамках переобучения.

Этот подход больше всего подходит для случаев, когда есть быстрая обратная связь (т. Е. Торги в реальном времени или доставка еды и т. Д.).Наиболее релевантные данные могут использоваться в качестве тестового набора, и размер окна может быть оптимизирован на нем, как и другой гиперпараметр модели. В случае, показанном ниже, наивысшая производительность достигается за последние 3 недели, которые это то, что следует выбрать для этой итерации. Для будущих можно выбрать другое окно согласно сравнению с тестовым набором.

Преимущество подхода с динамическим размером окна состоит в том, что он в большей степени управляется данными, основывается на производительности модели, которая на самом деле является итоговой строкой, и, следовательно, он более надежен для сред с высокой временной скоростью.

Недостатком является то, что требуется более сложный конвейер обучения (см. Следующий вопрос «Что обучать») для тестирования различных размеров окна и выбора оптимального, а это требует гораздо больших вычислительных ресурсов. Кроме того, как и при фиксированном размере окна, предполагается, что наиболее актуальны самые свежие данные, что не всегда верно.

Динамический выбор данных

Третий подход к выбору данных для обучения моделей направлен на достижение основной цели любой стратегии переподготовки и является основным допущением любой модели машинного обучения: использование обучающих данных, аналогичных производственным данные.Другими словами, модели следует переобучать на данных, которые максимально похожи на данные, используемые в реальной жизни для составления прогнозов. Этот подход сложен и требует высокой прозрачности производственных данных.

Для этого вам необходимо провести тщательный анализ эволюции данных в производственной среде, чтобы понять, меняются ли они с течением времени и как. Один из способов сделать это — вычислить дрейф входных данных между каждой парой дней, то есть насколько данные одного дня отличаются от данных другого дня, и создать тепловую карту, которая выявляет закономерности изменения данных в течение время, как показано ниже.Тепловая карта ниже представляет собой визуализацию оценки дрейфа во времени, где оси (столбцы и строки) — это даты, а каждая точка (ячейка в матрице) представляет собой уровень дрейфа между двумя днями, где чем выше дрейф, тем больше красный цвет ячейка есть.

Выше вы можете увидеть результат такого анализа, автоматически сгенерированного superwise.ai, чтобы помочь определить данные, максимально похожие на те, которые сейчас передаются в потоковом режиме. Существуют различные типы идей, которые можно легко получить из этого представления:

1 — Декабрь сильно отличается от остальных данных (до и после).Это понимание позволяет нам не рассматривать весь период как группу и исключать те дни, когда вы хотите переобучиться, поскольку данные за этот месяц не соответствуют обычным данным, которые вы наблюдаете в производственной среде.

2- Сезонность данных может быть визуализирована — и это может вызвать дискуссию о необходимости использования разных моделей для будних и выходных дней.

‍

Еще одна очень важная вещь: вы действительно можете получить изображение, доказывающее, что самые свежие данные не обязательно самые актуальные.

‍

Короче говоря, выбор правильных данных для переобучения моделей требует тщательного анализа поведения данных в производственной среде. Хотя использование исправлений или динамических размеров окна может помочь вам «поставить галочку», обычно это остается предположением, которое может оказаться более затратным, чем эффективным.

Что нужно переквалифицировать?

Теперь, когда мы проанализировали, когда переобучаться и какие данные следует использовать, давайте обратимся к третьему вопросу: что следует переобучать? Можно было выбрать только переобучение (переоборудование) экземпляра модели на основе новых данных, включение некоторых или всех этапов подготовки данных или использование более навязчивого подхода и запуск полного конвейера, имитирующего процесс исследования.

Основное предположение при переподготовке состоит в том, что модель, которая была обучена на этапе исследования, устареет из-за дрейфа концепции и, следовательно, ее необходимо переобучить. Однако в большинстве случаев экземпляр модели — это всего лишь последний этап более широкого конвейера, который был построен на этапе исследования и включает этапы подготовки данных. Возникает вопрос: насколько серьезен дрейф и его влияние? или в контексте переподготовки какие части модельного конвейера следует оспорить?

На этапе исследования вы экспериментируете и оцениваете многие элементы на этапах конвейера модели, чтобы оптимизировать вашу модель.Эти элементы можно сгруппировать в две части высокого уровня: подготовку данных и обучение модели. Часть подготовки данных, отвечающая за подготовку данных (да!) Для использования в модели, включает такие методы, как проектирование функций, масштабирование, вменение, уменьшение размеров и т. Д., А также часть обучения модели, отвечающую за выбор оптимальной модели и ее гиперпараметров. . В конце процесса вы получаете конвейер последовательных шагов, которые берут данные, подготавливают их для использования в модели и прогнозируют целевой результат с помощью модели.

Переобучение только модели, то есть последнего шага в конвейере, с новыми релевантными данными — самый простой и наивный подход, которого может хватить, чтобы избежать снижения производительности. Однако в некоторых случаях этого подхода, основанного только на модели, может быть недостаточно, и следует применять более комплексный подход в отношении объема переподготовки. Расширение объема переподготовки можно проводить по двум направлениям:

1 — На что переквалифицироваться? Какие части конвейера следует переобучить с использованием новых данных?

2 — Уровень переподготовки: Вы просто переобучаете модель (или другие шаги) с новыми данными? Вы занимаетесь оптимизацией гиперпараметров? или вы оспариваете выбор самой модели и тестируете другие типы моделей?

Другой способ взглянуть на это заключается в том, что в процессе переподготовки вы в основном пытаетесь автоматизировать и избегать ручной работы по исследованию оптимизации модели, которая была бы выполнена специалистом по данным, если бы не было процесса автоматической переподготовки.Следовательно, вам необходимо решить, в какой степени вы хотите имитировать процесс ручного исследования, как показано в таблице ниже.

‍

Обратите внимание, что автоматизация первых шагов потока становится более сложной, и чем больше автоматизации строится вокруг этих экспериментов, тем больше процесс более надежный и гибкий, чтобы адаптироваться к изменениям, но он также добавляет сложности, поскольку следует рассматривать больше конечных случаев и проверок. группа по науке о данных для некоторой задачи классификации:

Вы можете воспользоваться простым подходом и просто переобучить саму модель и позволить ей изучить новое дерево, или вы можете включить некоторые (или все) этапы подготовки данных (например,г. повторно запомните среднее значение в импутере или минимальное / максимальное значения в скалере). Но помимо выбора ступеней для переобучения нужно определиться, до какого уровня. Например, даже если вы решите переобучить только модель, это может быть выполнено на нескольких уровнях. Вы можете просто переобучить саму модель и позволить ей изучить новое дерево, например, model.fit (new_X, new_y), или вы можете выполнить поиск и оптимизировать гиперпараметры модели (максимальная глубина, минимальный размер листа, максимальное количество листовых узлов и т. Д.) или даже оспорить выбор самой модели и протестировать другие типы моделей (например,г. логистическая регрессия и. случайный лес). Этапы подготовки данных могут (и должны) также быть переобучены, чтобы тестировать различные скейлеры или разные методы вменения или даже тестировать выбор различных характеристик.

При выборе более комплексного подхода и выполнения гиперпараметрической оптимизации / поиска модели вы также можете использовать фреймворки Auto-ML, которые предназначены для автоматизации процесса построения и оптимизации конвейера модели, включая подготовку данных, поиск модели и оптимизация гиперпараметров.И это не обязательно требует сложного метаобучения. Это может быть просто: пользователь выбирает ряд моделей и параметров. Доступно множество инструментов: AutoKeras, Auto SciKitLearn. Тем не менее, каким бы заманчивым ни был AutoML, он не освобождает пользователя от наличия надежного процесса отслеживания, измерения и мониторинга моделей на протяжении всего их жизненного цикла, особенно до и после их развертывания в производственной среде.

В конце концов, «переключение переключателя» и автоматизация ваших процессов должны сопровождаться надежными процессами, чтобы гарантировать, что вы по-прежнему контролируете свои данные и свои модели.

Чтобы добиться эффективного непрерывного обучения, вы должны уметь руководить, опираясь на производственную информацию. Для любого варианта использования создание надежной инфраструктуры машинного обучения в значительной степени зависит от способности обеспечить видимость и контроль над работоспособностью ваших моделей и работоспособностью ваших данных в производственной среде. Вот что значит быть специалистом по данным;)

Требования к обучению HIPAA

Каковы требования к обучению HIPAA?

Поскольку HIPAA применяется ко многим различным типам защищаемых организаций (CE) и бизнес-партнеров (BA), требования к обучению HIPAA лучше всего охарактеризовать как «гибкие».Обучение, несомненно, является обязательным, поскольку оно является административным требованием правила конфиденциальности HIPAA (45 CFR §164.530) и административной защитой правила безопасности HIPAA (45 CFR §164.308).

Тем не менее, помимо оговоренных требований, обучение должно предоставляться «по мере необходимости и целесообразности для членов персонала для выполнения своих функций» (Правило конфиденциальности HIPAA), и что CE и BA должны «внедрить программу обучения и повышения осведомленности о безопасности для всех членов персонала. рабочая сила »(правило безопасности HIPAA), подробный список требований к обучению HIPAA отсутствует.

Рассмотрите цели обучения HIPAA

Осознание того, что вы должны проводить обучение, но незнание того, какой тип обучения вы должны проводить, усложняет соблюдение требований HIPAA. Конечно, если произойдет нарушение PHI и последующее расследование обнаружит, что обучение не проводилось, ответственный CE или BA может ожидать существенного штрафа от Управления по гражданским правам HHS. Организации, которые проводят регулярное обучение HIPAA, гораздо реже получают штраф HIPAA.

Чтобы преодолеть гибкость требований к обучению HIPAA, CE и BA должны вернуться к своим оценкам рисков. При оценке рисков должна быть определена функция каждого человека, который может контактировать с PHI или ePHI, и на основе этих данных должна быть возможность составить «необходимую и уместную» программу обучения и осведомленности в области безопасности для каждой функции или роли.

Что должно быть включено в программу обучения и осведомленности о безопасности, будет зависеть от функций или роли каждого отдельного сотрудника, менеджера, волонтера, стажера или подрядчика, который может контактировать с PHI или ePHI.Во многих случаях потребуется составить несколько программ обучения и повышения осведомленности о безопасности, чтобы убедиться, что их содержание актуально для обучаемых. Например, медицинские работники не нуждаются в таком же обучении, как специалист по соблюдению требований HIPAA. Студенты-медики нуждаются в несколько ином обучении, чем медицинские работники. Руководители здравоохранения снова нуждаются в несколько ином обучении.

Это может потребовать много времени и ресурсов для проведения целевого обучения; но для того, чтобы обучение было эффективным, оно должно быть целенаправленным.

Как часто требуется обучение HIPAA?

Что касается вопроса о том, как часто требуется обучение HIPAA, Правило конфиденциальности и Правило безопасности предлагают предложения без указания конкретных сроков. Согласно Правилу конфиденциальности, обучение HIPAA требуется для «каждого нового сотрудника в течение разумного периода времени после того, как это лицо присоединится к персоналу Защищенной организации», а также когда «функции затронуты существенным изменением политики или процедур» — снова в разумные сроки.Это интерпретируется как необходимость обучения в первые несколько дней или недель, а не месяцев.

Согласно Правилу безопасности, обучение HIPAA требуется «периодически». Большинство поставщиков медицинских услуг интерпретируют «периодически» как ежегодно, поскольку более длительный период, скажем, каждые два или три года, будет означать халатное отношение к обучению в случае расследования нарушения HHS. Рекомендуется ежегодно проводить переподготовку по HIPAA, но рассмотрите возможность более частого проведения более коротких учебных занятий, чтобы усилить необходимость соблюдения требований и снизить риск случайных нарушений HIPAA.

HIPAA также должно проводиться всякий раз, когда происходят изменения в методах работы или технологиях, или когда Министерство здравоохранения и социальных служб издает новые правила или руководства. Чтобы определить, требуется ли обучение HIPAA, сотрудники по вопросам конфиденциальности и безопасности должны:

• Следите за публикациями HHS и штата для предварительного уведомления об изменениях правил. В идеале это должно включать подписку на новостную ленту или другой официальный канал связи.
• При выпуске новых правил или руководств проведите оценку рисков, чтобы определить, как они повлияют на деятельность организации и требуется ли обучение HIPAA.
• Связь с менеджерами по персоналу и практикой для получения предварительного уведомления о предлагаемых изменениях, чтобы определить их влияние на соблюдение правила конфиденциальности HIPAA.
• Связывайтесь с ИТ-менеджерами для получения предварительного уведомления об обновлениях оборудования или программного обеспечения, которые могут повлиять на соблюдение правила безопасности HIPAA.
• Проводите регулярную оценку рисков, чтобы определить, как существенные изменения в политике или процедурах могут увеличить или уменьшить риск нарушений HIPAA.
• Составьте программу обучения, в которой описывается, как любые изменения повлияют на соблюдение сотрудниками требований HIPAA, а не только сами изменения.
• Разработайте программу повышения квалификации по HIPAA, которую можно проводить не реже одного раза в год, чтобы усилить необходимость соблюдения правил HIPAA.

Естественно, в случае изменений в методах работы и технологиях обучение HIPAA необходимо проводить только для сотрудников, чьи роли будут затронуты изменениями. Как упоминается в разделе «Передовой опыт» ниже, также рекомендуется включать в тренинги хотя бы одного члена высшего руководства, даже если они не затронуты новыми политиками или процедурами, поскольку это показывает, что вся организация принимает его требования к обучению HIPAA серьезно.

Что должно быть включено в курс обучения HIPAA?

Хотя каждый учебный курс HIPAA должен быть адаптирован к ролям сотрудников, посещающих курс, необходимо включить некоторые важные элементы. В следующей таблице приведен пример того, что должен включать базовый курс обучения HIPAA, хотя охваченным организациям может потребоваться сосредоточиться на одних областях больше, чем на других. Однако ни одна из этих областей не должна полностью исключаться при обучении медицинских работников HIPAA.

Тренинг по безопасности HIPAA

Правило безопасности HIPAA требует, чтобы обучение по вопросам безопасности проводилось «периодически», что, по общему мнению, означает не реже одного раза в год.Медицинские работники становятся жертвами киберпреступников, поэтому важно, чтобы медицинские работники и студенты знали об угрозах, с которыми они могут столкнуться, были обучены распознавать эти угрозы безопасности HIPAA и были обучены передовым методам защиты ePHI и способам реагирования на них. возникла угроза.

Рассмотрите возможность проведения ежегодных учебных занятий по вопросам безопасности HIPAA, перемежающихся с более короткими курсами повышения квалификации в течение года. Киберпреступники часто меняют свою тактику, методы и процедуры.Сотрудники должны быть осведомлены о последних угрозах, нацеленных на работников здравоохранения, и пройти обучение тому, как распознавать фишинговые электронные письма и другие угрозы, которые регулярно подкрепляются. Обучение осведомленности о безопасности важно не только для соответствия HIPAA, оно также поможет предотвратить дорогостоящие утечки данных и штрафы регулирующих органов.

Лучшие практики для обучения соответствию требованиям HIPAA

Поскольку конкретных требований к обучению HIPAA не существует, мы собрали небольшую серию передовых практик, которые менеджеры по соблюдению требований HIPAA могут захотеть учесть при составлении «необходимого и подходящего» обучения по вопросам безопасности, обучения HIPAA для сотрудников при адаптации и программ повышения квалификации HIPAA. .Наши передовые методы обучения соблюдению требований HIPAA не высечены из камня и могут быть выбраны по желанию.

• Сделайте тренировок короткими и приятными. Рекомендуется, чтобы учебные занятия продолжались не более одного часа и были «периодическими» повторениями, как это предусмотрено Правилом безопасности HIPAA. Ежегодного повышения квалификации по HIPAA достаточно для выполнения «периодических» требований.
• Включите ли последствия нарушения HIPAA в обучение — не только финансовые последствия для CE или BA, но и последствия для стажеров и их коллег и, конечно же, лиц, чья PHI была раскрыта. .
• Не цитируйте длинные отрывки текста из руководств HIPAA или правил. Используйте мультимедийные презентации, чтобы сделать обучение незабываемым. Тренинг по соблюдению требований HIPAA должен быть не только усвоен, его нужно понимать и выполнять в повседневной жизни.
• Do включает в обучение высшее руководство. Даже если руководители высшего звена не контактируют с PHI, важно, чтобы они участвовали в обучении соблюдению требований HIPAA. Знание о том, что к обучению серьезно относятся наверху, побудит других отнестись к нему серьезно.
• Не забывайте задокументировать свое обучение. В случае расследования или аудита OCR важно иметь возможность представить содержание обучения, а также то, когда оно проводилось, кому и как часто. Сотрудники должны подписаться, чтобы подтвердить, что они прошли ознакомительный курс HIPAA.
• Do рассмотрите возможность проведения онлайн-обучения HIPAA для сотрудников. Модульные онлайн-курсы обучения HIPAA можно пройти, когда у сотрудников есть свободное время, что облегчает их включение в загруженные рабочие процессы.Онлайн-курсы HIPAA особенно полезны для повторного обучения HIPAA.
• Проводите ли регулярные тренинги по вопросам безопасности. Это поможет сформировать культуру безопасности в вашей организации и снизить риск утечки данных.

Тренинг по государственным законам о конфиденциальности информации здравоохранения

HIPAA — это федеральный закон, который применяется к Защищаемым организациям и их бизнес-партнерам, но это не единственный закон, регулирующий конфиденциальность и безопасность медицинских данных.HIPAA устанавливает минимальные стандарты конфиденциальности и безопасности медицинской информации, но штаты могут вводить более строгие требования. Помимо обучения HIPAA, обучение также должно проводиться в соответствии с законами штата. Например, медицинские организации в Техасе и те, кто обслуживает жителей Техаса, обязаны проводить обучение по Texas HB 300 и требованиям Закона штата Техас о конфиденциальности медицинских записей, которые выходят за рамки минимальных стандартов HIPAA.

Сводка требований к обучению HIPAA

Требования к обучению HIPAA для работодателей

В большинстве случаев требования к обучению HIPAA для работодателей применяются только к работодателям, которые являются участниками HIPAA или бизнес-партнерами.Квалифицированные работодатели должны предоставить обучение HIPAA всем сотрудникам, независимо от их роли в организации, в соответствии с административными мерами безопасности правила безопасности HIPAA.

Если работодатель не является покрываемым юридическим лицом или деловым партнером, но участвует в транзакциях, покрываемых HIPAA (например, работодатель управляет самозастрахованным планом медицинского страхования), обучение HIPAA необходимо проводить только для сотрудников, имеющих доступ к PHI или ePHI. . Дополнительную информацию о требованиях к обучению HIPAA для работодателей в этих обстоятельствах можно найти в этой статье.

Обучение сотрудников HIPAA

В дополнение к предоставлению «необходимого и надлежащего» обучения сотрудников HIPAA рекомендуется проводить дополнительное обучение, которое придает контекст обучению, которое получает каждый сотрудник. Например, при обучении сотрудников правилам HIPAA по раскрытию PHI рекомендуется также обсудить последствия нарушений HIPAA.

Документирование обучения сотрудников является требованием HIPAA. Тем не менее, это имеет преимущества, поскольку, если происходят существенные изменения в политиках или процедурах, и они влияют только на определенную область соответствия HIPAA, существует запись о том, кто прошел обучение в этой конкретной области соответствия HIPAA и кто теперь нуждается в повышении квалификации.

Повышение квалификации по HIPAA

Помимо предоставления при существенном изменении политики или процедур, необходимо проводить переподготовку HIPAA для персонала всякий раз, когда обнаруживаются новые угрозы для данных пациентов. Важно, чтобы сотрудники знали, как выявлять угрозы и реагировать на них, а отсрочка обучения такого рода до того, как ежегодный день переподготовки может привести к утечке данных, которую можно предотвратить.

Помимо учета изменений в политике и процедурах, курсы повышения квалификации по HIPAA также должны периодически проходить по старому принципу, чтобы напоминать сотрудникам, почему HIPAA важен и каковы права пациентов, особенно с учетом того, что недавно были предложены изменения в Правиле конфиденциальности HIPAA. это улучшит совместное использование данных и взаимодействие, а также запретит блокировку информации.

Тренинг HIPAA для медсестер

Хотя каждый учебный курс HIPAA должен быть адаптирован к ролям сотрудников, обучение HIPAA для медсестер должно быть сосредоточено на требованиях конфиденциальности в отношении раскрытия информации. Это происходит не из-за риска, что медсестры могут непреднамеренно раскрыть PHI в пределах слышимости третьих лиц, а из-за особых отношений, которые они развивают с пациентами.

Пациенты часто раскрывают медсестрам информацию, которую они не могут раскрывать своим врачам, и медсестры должны знать, что тот факт, что пациент поделился с ними информацией, не означает, что пациент дал согласие на передачу этой информации кому-либо. еще.Следовательно, медсестры должны знать, как поступать с раскрытием конфиденциальной информации в контексте HIPAA.

Тренинг HIPAA для ИТ-специалистов

Естественно предположить, что обучение HIPAA для ИТ-специалистов должно быть сосредоточено на ИТ-безопасности и защите сетей от несанкционированного доступа, но также важно, чтобы ИТ-специалисты прошли обучение по проблемам, с которыми сталкиваются передовые медицинские специалисты, работающие в соответствии с HIPAA.

Это значит, что ИТ-специалисты проектируют системы и разрабатывают процедуры, которые соответствуют потребностям медицинских работников.Если системы и процедуры слишком сложны или кажутся не имеющими отношения к ролям отдельных лиц, будут найдены способы обойти системы — потенциально подвергая ePHI риску раскрытия, потери или кражи.

Тренинг HIPAA для медицинского персонала

В зависимости от размера медицинского офиса и разнообразия ролей, выполняемых персоналом, обучение HIPAA для медицинского персонала, вероятно, будет более комплексным, чем для любой другой категории работников здравоохранения. Это связано с тем, что команды медицинского офиса часто могут иметь дело с пациентами, их семьями, запросами от третьих лиц, поставщиков, платежных систем и планов медицинского обслуживания.

Ряд сценариев, с которыми, вероятно, столкнутся медицинские сотрудники, являются одной из причин, по которым обучение HIPAA должно быть запоминающимся, чтобы его можно было применять в повседневной жизни. Что касается обучения HIPAA для медицинского персонала, чем больше оно контекстно, тем лучше, поскольку оно поможет сотрудникам лучше понять значение HIPAA и почему защита ePHI так важна.

Требования к обучению по HIPAA для деловых партнеров

Требования к обучению HIPAA для бизнес-партнеров часто неправильно понимают, потому что нигде в Правиле конфиденциальности не говорится, что обучение HIPAA для бизнес-партнеров является обязательным.Тем не менее, административные меры безопасности правила безопасности HIPAA (45 CFR § 164.308) гласят:

«Защищенное лицо или деловой партнер должен…… внедрить программу обучения и повышения осведомленности о безопасности для всех своих сотрудников (включая руководство)».

Хотя это можно интерпретировать как общую программу обучения и повышения осведомленности о безопасности, а не как программу обучения и осведомленности в области безопасности HIPAA, имеет смысл обучать HIPAA, потому что, если происходит нарушение HIPAA, и нет доказательств того, что обучение HIPAA проходило было предоставлено, это, вероятно, приведет к более суровым санкциям за «умышленное пренебрежение».

Тренинг по соблюдению требований HIPAA для бизнес-партнеров

Принимая во внимание приведенный выше комментарий, тренинг по соблюдению требований HIPAA для бизнес-партнеров должен состоять из базового обучения HIPAA, а затем ролевого обучения в зависимости от услуг, предоставляемых бизнес-партнером и его сотрудниками. Тем не менее, важно, чтобы покрываемые организации провели тщательную комплексную проверку бизнес-партнеров, чтобы убедиться, что обучение является надлежащим.

Проблема с обучением по соблюдению требований HIPAA для бизнес-партнеров заключается в том, что многие бизнес-партнеры не имеют ресурсов для назначения специалиста по соблюдению требований HIPAA, и задача обеспечения соблюдения требований HIPAA часто делегируется существующему сотруднику, который может не иметь знаний — или время — чтобы обеспечить правильное обучение HIPAA нужным людям.

Узнайте больше о требованиях к обучению HIPAA

Последствия неадекватной подготовки могут быть значительными — не только с финансовой точки зрения, но и с точки зрения человека. Тем не менее, многих нарушений HIPAA можно избежать с помощью соответствующего обучения соблюдению требований HIPAA. Хотя единственными требованиями к обучению HIPAA, по-видимому, является обязательное обучение, вы можете узнать больше о том, какое облако будет включено в обучение по соответствию HIPAA, прочитав подробное руководство по соответствию HIPAA.

Часто задаваемые вопросы о требованиях к обучению HIPAA

Кто отвечает за организацию обучения HIPAA?

Специалисты по соблюдению требований HIPAA должны отвечать за организацию обучения сотрудников HIPAA, хотя они не обязательно должны проводить обучение самостоятельно.Если, например, обучение включает в себя использование нового программного обеспечения в соответствии с нормативными требованиями, то, возможно, будет лучше, если член ИТ-группы проведет обучение, хотя специалист по соблюдению нормативных требований должен присутствовать на презентации.

Должен ли сотрудник по вопросам конфиденциальности проводить обучение по вопросам конфиденциальности, а сотрудник по безопасности — по вопросам безопасности?

Хотя это кажется разумным, поскольку каждый сотрудник будет специалистом в своей области, чтобы отвечать на вопросы, нет необходимости разделять обязанности по обучению.Кроме того, в HIPAA существует много пересечений между конфиденциальностью и безопасностью, поэтому обе темы обычно рассматриваются в учебном занятии, если только сеанс не посвящен конкретной теме конфиденциальности или безопасности.

Что является примером «существенного изменения политики»?

Некоторым больницам, возможно, придется внести поправки в политику и процедуры, чтобы приспособиться к переходу от программы «Значимое использование» CMS к программе «Содействие взаимодействию». Если изменения в политике влияют на способ управления ePHI, персонал, участвующий в управлении данными для программы «Содействие взаимодействию», должен пройти обучение, чтобы избежать пробелов в их знаниях.

Какие руководители высшего звена должны участвовать в обучении HIPAA?

Все они — хотя не обязательно все одновременно. Хотя важно, чтобы руководители высшего звена знали о влиянии соответствия требованиям HIPAA на операции, более практично привлекать (например) ИТ-директоров и руководителей по информационной безопасности к обучению технологиям, а финансовым директорам — к обучению, касающемуся взаимодействия между организациями здравоохранения и страховыми компаниями.