Model Explainability¶

지원되는 모델 유형¶

이 미리 보기 릴리스에서 지원하는 Python 기본 모델 패키지는 다음과 같습니다.

• XGBoost

• CatBoost

• LightGBM

• scikit-learn

다음 snowflake.ml.modeling 의 Snowpark ML 모델링 클래스가 지원됩니다.

• XGBoost

• LightGBM

• Scikit-learn(파이프라인 모델 제외)

설명 기능은 Snowpark ML 1.6.2 이상을 사용하여 로깅한 위 모델에서 기본적으로 사용할 수 있습니다. 구현에서는 SHAP 라이브러리 를 사용합니다.

배경 데이터를 사용한 모델 로깅¶

일반적으로 대표 데이터의 샘플인 배경 데이터는 Shapley 값 기반 설명의 중요한 요소입니다. 배경 데이터는 Shapley 알고리즘에 개별 설명을 비교할 수 있는 “평균” 입력이 어떤 것인지에 대한 아이디어를 제공합니다.

Shapley 값은 입력 특징을 체계적으로 교란하고 이를 배경 데이터로 대체하여 계산합니다. 배경 데이터와의 편차를 보고하기 때문에 여러 데이터 세트의 Shapley 값을 비교할 때는 일관적인 배경 데이터를 사용하는 것이 중요합니다.

일부 트리 기반 모델은 훈련 중에 구조 내에 배경 데이터를 암시적으로 인코딩하며, 명시적인 배경 데이터가 필요하지 않을 수 있습니다. 그러나 대부분의 모델은 유용한 설명을 위해 별도로 배경 데이터를 제공해야 하며, 모든 모델(트리 기반 모델 포함)은 배경 데이터를 제공하면 더 정확하게 설명할 수 있습니다.

모델을 로깅할 때 아래와 같이 sample_input_data 매개 변수를 전달하여 최대 1,000행의 백그라운드 데이터를 제공할 수 있습니다.

mv = reg.log_model(
    catboost_model,
    model_name="diamond_catboost_explain_enabled",
    version_name="explain_v0",
    conda_dependencies=["snowflake-ml-python"],
    sample_input_data = xs, # xs will be used as background data
)

아래에 표시된 대로, 모델을 기록하는 동안 서명을 사용하여 배경 데이터를 제공할 수도 있습니다.

mv = reg.log_model(
    catboost_model,
    model_name="diamond_catboost_explain_enabled",
    version_name="explain_v0",
    conda_dependencies=["snowflake-ml-python"],
    signatures={"predict": predict_signature, "predict_proba": predict_proba_signature},
    sample_input_data = xs, # xs will be used as background data
    options= {"enable_explainability": True} # you will need to set this flag in order to pass both signatures and background data
)

설명 가능성 값 검색하기¶

설명 가능성이 있는 모델에는 모델의 특징에 대한 Shapley 값을 반환하는 이름이 explain 인 메서드가 있습니다.

Shapley 값은 특정 입력으로부터 만들어진 예측에 대한 설명이므로, 설명할 예측을 생성하려면 입력 데이터를 explain 에 전달해야 합니다.

Snowflake 모델 버전 오브젝트에는 explain 메서드가 있으며, Python에서는 ModelVersion.run 을 사용하여 호출합니다.

reg = Registry(...)
mv = reg.get_model("Explainable_Catboost_Model").default
explanations = mv.run(input_data, function_name="explain")

다음은 SQL로 설명을 검색하는 예제입니다.

WITH MV_ALIAS AS MODEL DATABASE.SCHEMA.DIAMOND_CATBOOST_MODEL VERSION EXPLAIN_V0
SELECT *,
      FROM DATABASE.SCHEMA.DIAMOND_DATA,
          TABLE(MV_ALIAS!EXPLAIN(CUT, COLOR, CLARITY, CARAT, DEPTH, TABLE_PCT, X, Y, Z));

mv_new = reg.log_model(
    model,
    model_name="model_with_explain_enabled",
    version_name="explain_v0",
    conda_dependencies=["snowflake-ml-python"],
    sample_input_data = xs,
    options={"relax_version": False}
)

기존 모델에 설명 기능 추가하기¶

1.6.2 이전 버전의 Snowpark ML을 사용하여 레지스트리에 로그인한 모델에는 설명 기능 기능이 없습니다. 모델 버전은 변경할 수 없으므로 기존 모델에 설명 기능을 추가하려면 새 모델 버전을 생성해야 합니다. ModelVersion.load 를 사용하여 모델의 구현을 다시 나타내는 Python 오브젝트를 검색한 다음 이를 새 모델 버전으로 레지스트리에 기록할 수 있습니다. 배경 데이터를 sample_input_data 로 전달해야 합니다. 이 접근법은 아래와 같습니다.

mv_old = reg.get_model("model_without_explain_enabled").default
model = mv_old.load()
mv_new = reg.log_model(
    model,
    model_name="model_with_explain_enabled",
    version_name="explain_v0",
    conda_dependencies=["snowflake-ml-python"],
    sample_input_data = xs
)

설명 불가능한 모델 로깅¶

설명 기능은 모델에서 지원하는 경우 기본적으로 활성화됩니다. 설명 없이 레지스트리에 모델 버전을 기록하려면 다음과 같이 모델을 기록할 때 enable_explainability 옵션에 False 를 전달합니다.

mv = reg.log_model(
    catboost_model,
    model_name="diamond_catboost_explain_enabled",
    version_name="explain_v0",
    conda_dependencies=["snowflake-ml-python"],
    sample_input_data = xs,
    options= {"enable_explainability": False}
)