SmartData 2020: konferensi tentang rekayasa data



Jika posisi Anda adalah insinyur data, maka Anda mungkin mengalami bias informasi yang menyinggung. Ilmu data secara aktif tercakup, ada banyak materi berguna di dalamnya. Dan Anda bekerja di bidang yang terkait, di mana banyak pertanyaan penting juga muncul, tetapi lebih sedikit yang dikatakan tentang pertanyaan-pertanyaan ini.



, , 9-12 SmartData. - : data scientists, - , .



- , , . , , , .





, 2017- « SmartData», 2018- SmartData. : « , , ». : !



, , . , , . , data science, :





, , , . , : « , , , - …»





, SmartData 2020? , , . , :



Streaming



  • Flink
  • Spark
  • Kafka




, , noSQL, SMP/MPP- DWH:



  • Hive, Impala, Presto, Vertica, ClickHouse, Cassandra
  • Teradata, Redshift, GreenPlum, exadata
  • MSSQL, PostgreSQL
  • MongoDB, DynamoDB
  • S3, ADLS, GCS, HDFS


DWH



  • Ad-hoc reporting
  • Hadoop


Data governance



  • Data security

    • Data quality
    • Metadata catalog management
    • Master data management


ETL



  • Spark

    • Hadoop MapReduce
    • Sqoop
    • Performance analysis and optimization


MLOps



  • Airflow, NiFi, Luigi, Azkaban, Oozie etc

    • MLflow






    • - , data engineer
    • CI/CD




SmartData





, SmartData — . ?



  • , , «-» « ». , , , . : , , .



  • , , . .



  • , -. . : , 3-4 . .



  • , - , 3-4 : . , - «», ( - ). , «» , !





Call to action



? :



  1. . , , .
  2. , — , .
  3. IT, : «full pass», SmartData, 7 . .


SmartData!






All Articles