Skip to main content

והיום על Azure Table Storage -ארכיטקטורה חדשה שוחררה

שמעתם על המושג geo-replicating?
ובכן גם אני לא עד שקראתי את הפוסט החדש שהוציאו הצוות שמטפל ב ATS .



מדובר פה על רפליקציה כפולה בין אזורים ובין Data Centers - אח... מתי אנשי ה SQL Azure יעשו גם הם את אותו הדבר?
ובכן העניין הוא כזה - כשם שב SQL Azure הרחבנו והסברנו על מבנה הרפליקציה המובנית בענן - 3 רפליקציות לכל בסיס נתונים - אחד ראשי ושנים משניים, כך גם ל ATS וגם ל BLOBS שנמצאים ב Windows Azure Storage.
כל טבלה או בלוב מרופלקים ל 3 מחשבים וירטואליים אחרים.
כאשר החידוש היום ב ATS הוא שמועברים הנתונים בצורה א-סינכרונית ל DATA Center אחר באותו אזור.
כידוע העולם מחולק ל 3 אזורים כרגע - ראו פוסט מיוחד על זה, ובכל אזור יש 2  DATA Centers, כך למשל בארופה יש מרכז אחד בדבלין ואחד באמסטרדם - אז במקרה שלנו לאחר שנתון ייכנס לטבלה או לבלוב, למשל בדבלין וירופלק ל 3 טבלאות או בלובים באותו מרכז הוא יועבר בצורה א-סינכרונית למרכז השני באמסטרדם. וכן להיפך - הכל לפי הגדרת המשתמש מה ראשי ומה משני


וכך לשאלת רבים - מה ייקרה אם יהיה אסון במרכז אחד - התשובה תהיה שמידע נשמר גם במרכז אחר,
זה חידוש רציני והוא בחינם.
אסון ב DATA Center נקרא בשפה של Microsoft :
"in case of a major data center disaster"


עולם ה noSql קורץ מתמיד...

כבר יש דיונים אצלם על נעילות וכדומה - כיצד יש להתנהג ואיך לכתוב קוד  - אולם זה נושא לפוסט אחר.

Comments

Popular posts from this blog

How to restore deleted Azure Synapse dedicated SQL pool

  Existing dedicated pool can be easily restored from Azure portal or PowerShell command, but for now deleted pool could be restored from PowerShell only! Example: # Connect to Azure with system-assigned managed identity $AzureContext = (Connect-AzAccount -Identity).context # set and store context $AzureContext = Set-AzContext -SubscriptionName $AzureContext.Subscription -DefaultProfile $AzureContext # $AzureContext = Set-AzContext -SubscriptionName $SubscriptionName -DefaultProfile $AzureContext $SubscriptionName="Databases" $ResourceGroupName="stg-rg-we" $ServerName="stg-synapse-we"   $DatabaseName="sql_we_2023_11_07_13_42" $NewDatabaseName="sql_dp_we_deleted" ######################################## $token = (Get-AzAccessToken -ResourceUrl https://database.windows.net).Token $SubscriptionId = "ce088f9e-1111111a3914b" $DedicatedPoolEndPoint = "stg-synapse-we.sql.azuresynapse.net" $DedicatedPoolName = $DatabaseNam...

The journey to the Lakehouse

A long time has passed since the last post, we have gone through a long and tedious journey to adapt what Azure offers us, to our needs. Our needs were simple, the Current Datawarehouse (SQL Server on VM inazure) served the BI. ML teams worked on GCP, we want to let both teams to work on Azure in a platform that will have the ability to scale and will not fail every 2 days. We checked: Snowflake on azure Synapse analytics GCP We decided to go for the full Azure product for the reasons: Migration time support costs Synapse as a platform contains many components, and the challenge was to find what fits  us as an organization and as a group. The knowledge of the people and their abilities influenced the plans. Here's what we planned and what we did: We start to put everything in the Data Lake in parquet or delta format, build on top of Azure ADLS gen 2. We had to move some data to T-SQL compatible platform, so this involves setting up a dedicated Synapse pool , which is a fully man...

Azure SQL DB tiers comparison

Hi All In the last few month Brent Ozar gae us 2 masterpiece blogs related to Azure SQL DB:   How fast can a $21,468/mo Azure SQL DB load data?     In this blog Brent compared the abilities of Azure SQL DBs to load Data - he compared all combinations of vCors tiers. (When I asked him about comparing the Standard\Premium tiers, he told me to do it.... :-) )   There’s a bottleneck in Azure SQL DB storage throughput.   In this blog Brent showed us that in the vCors world the storage throughput has limit and there is not need to pay so much money when you need to upload lots of data.   So I took have taken up his challenge and done a comparison in Azure SQL DB in Standard\Premium tiers. I have created a new DB with 1 Table. I have generated 7 GB of DATA, and created the file in my local on premise drive (Yes, do not kill me, I did not had the time to put it on azure), and uploaded it via BCP command.   bcp "TableNam...