Per al connector Spark de Snowflake a AWS, configura el lector amb les opcions de proxy pròpies del connector:

options = {
    **snowflake_options,
    'use_proxy': 'true',
    'proxy_host': 'proxy.example',
    'proxy_port': '8080',
    'proxy_protocol': 'http',
}
reader = spark.read.format('snowflake').options(**options)

snowflake_options conté la configuració del punt final i de l'autenticació de l'aplicació. Afegeix la taula o la consulta desitjada abans de cridar load.

use_proxy és false per defecte. Quan s'activa, requereix proxy_host i proxy_port com a camps separats. proxy_user i proxy_password proporcionen un compte intermediari. Sense autenticació de proxy, una ruta permesa a través d'un proxy públic pot fer servir candidats d'amfitrió i port de la llista de proxys HTTP mentre conserva la configuració del compte de Snowflake.

Snowflake documenta els camps del compte, proxy_protocol i non_proxy_hosts com a exclusius d'AWS. proxy_protocol es va afegir al connector 2.11.1 i per defecte és http. non_proxy_hosts separa els amfitrions amb una barra vertical escapada per URL (%7C) i admet un asterisc com a comodí.

Utilitza un connector que coincideixi amb les versions de Spark i Scala del projecte. Aquestes opcions d'origen de dades tenen noms i formats propis; les propietats JDBC i els objectes java.net.Proxy no són entrades intercanviables.

Articles relacionats