2015-05-12

What is Azure SQL Database DTU and its connection to SQL Database elastic pools - Part 1

שלום לכולם
אנו DBA's תן לנו SSD, תן לנו יותר RAM, תנו לנו עוד Cores, שימו את הלוגים על דיסקים מהרים - תמי תמיד יש לנו בקשות ותלונות לכולם.... רק לא לנו עצמינו.

אבל האמת המרה היא שמה שחשוב בסוף זה ה Latancy, כמה זמן לקח לפעולה להתבצע - ובאמת באמת לא משנה מה התשתית של הברזלים, אצלינו באיטורו - לקוחות מכניסים טרזקציות כספיות... בסוף בסוף זה באמת לא משנה מה רץ ועל מה רץ - חשוב שזה ירוץ מהר - שפוזיציה לא תיכנס ביותר מ 20 MS לצורך העניין.

ולכן בעובדינו בענן ובמיוחד בחלק ה PAAS  שלו, אין לדעת מה רץ מאחורי הקלעים, אנו לא יודעים אילו מכונות מריצות מה והיכן יושבים הלוגים.
אז איך נמדוד כמה מה מתאים לנו ועל מה אנו צריכים להושיב את בסיס הנתונים שלנו? ומהו הכלי לביצוע benchmark?

ובכן ב SQL Azure הכלי הוא מדידת DTU.

לפני זמן מה כשהכריזו על  SQL Database elastic pools, מיד התחלתי לבדוק את המוצר, ולנסות להבין האם הוא מממש את ההבטחה שיוצריו הבטיחו לנו.
תוך כדי בדיקות וחקירות, הבנתי שבכדי להסביר את המוצר ומה שעומד מאחריו לא אוכל להתחמק מלהסביר על ה DTU.

הסבר על ה DTU רציתי לעשות מזמן. זהו מושג חובה בהבנת התנהלות של SQL Azure.
אבל התחמקתי מההסבר כי ל DBA קלאסי קשה עם המושג הזה (כמו שהסברתי למעלה).

אז הנה הכריחו אותי להסביר.

היום אסביר על DTU , ובפוסט הבא, אם וכאשר אגיע לכך, אסביר על SQL Database elastic pools .

DTU לפי ההגדרה הרישמית הוא:

Database Throughput Unit (DTU): DTUs provide a way to describe the relative capacity of a performance level of Basic, Standard, and Premium databases. DTUs are based on a blended measure of CPU, memory, reads, and writes. As DTUs increase, the power offered by the performance level increases. For example, a performance level with 5 DTUs has five times more power than a performance level with 1 DTU. A maximum DTU quota applies to each server. For more information on DTU quotas
 

משפט המפתח:
blended measure of CPU, memory, reads, and writes
לקחו מדידה של המטריקות הללו והרכיבו מדד של DTU, שבסופו של דבר נמדד ב אחוזים כלומר אם אתם מגיעים ל 100% DTU זהו סימן שאתה מנצל את כל משאבי החומרה המיועדים לחומרה - לא ינתקו קוננקשין, אין פה מגבלה של ביצוע - אלא פשוט העבודה תתבצע יותר לאט.
 
כיצד הם מחשבים DTU?
התשובה היא די פשוטה יש טבלה בכל בסיס נתונים שדוגם את המדדים כל כמה שניות, אגב הוא שומר אותם באגרגציה של 5 דקות בבסיס הנתונים master, ועל סמך המדדים הללו יש נוסחא לחישוב DTU.
שמו של ה DMV הוא:
sys.dm_db_resource_stats

שמכיל את העמודות:
avg_cpu_percent
avg_log_write_percentavg_data_io_percent
avg_memory_usage_percent
 
ומתוך מידע זה יש DTU.
בפורטל החדש כאשר לוחצים על בסיס נתונים עולה הגרף של DTU ישר למעלה.


אפשר גם ליצור התרעה דרך הפורטל במידה וה DTU גבוה מידי.

נקודה חשובה נוספת שיש ליזכור - הדברים משתנים מידי פעם - אם למשל פעם p1 היה 100 DTU היום הוא יותר.

עוד נקודה אחרונה לפני לינקים וטבלאות מידע - ל  DTU יש מיגלה ברמת Server כלומר לסרבר מוגדר כמה DTU הוא יכול להיות סך הכל וכל בסיס הנתונים המרכיבים אותו לא יכולים להיות בסכום גבוה ממה שמוגדר.

SQL Server ב Azure זו יחידה לוגית שמגדירה כמה נושאים משותפים של בסיס נתונים כמו חוקי firewall  וגם DTU.

מספר לינקים חשובים:

טבלאות והסברים מה יש בכל tier ברמה של כמה טרנזקציות לשניה, וכמה DTU התמונה מאד ברורה ממאמר זה:
https://msdn.microsoft.com/en-us/library/azure/dn741336.aspx

הסבר על ה benchmark:
https://msdn.microsoft.com/en-us/library/azure/dn741327.aspx

בלוג של בחור מדהים שביצע השוואות בין tiers שונים וכתב כמה בלוגים בנושא - הבעיה שוב שכל כמה חודשים יש שיפורים והתוצאות נכונות לזמנן אולם זה נותן תמונה מעניינת ולרוב נכונה לגבי מה יש ומה אין.
https://cbailiss.wordpress.com/2014/09/16/performance-in-new-azure-sql-database-performance-tiers/
עד כאן להיום...
אם לא הייתי ברור או הארכתי מידי מוזמנים לשלוח מייל ולשאול

יללה נלך לראות ברצלונה באיירן..
פיני
 

2015-05-03

Azure New Portal: 'Browse' improvements

שלום רב
סוף סוף אפשר להתחיל לפלטר בפורטל החדש.
השבוע הוסיפו את הפיצ'ר המדהים של פילטר לפי Subscription וחיפוש לפי שם.
 
1. יש ללחוץ על BROWSE.
2. בדוגמא לחצתי על All Resources.
ובמסך שנגלה לעיין יש 4 פיצ'רים חדשים:
1. בחירת עמודות - יש כל מיני אפשרויות וסידור שלהם.
2. פילטור לפי Subscription.
3. חיפוש לפי שם - אצלינו באיטורו, הרשימה ארוכה וזה דבר חיוני לעבודה תקינה.
4. וכשהרשימה ארוכה - וזה לא מופיע פה בתמונה יש כפתור Load More- לוחצים עליו והרשימה מתארכת...
 
 
אז תודה לחברים שהוסיפו את זה  ועכשיו מחכים למיון - קליק על ראש העמודה ולמיין

 


מעבר לזה הוספו עוד דברים שקודם לא ניתן היה לעשות בפורטל החדש כמו Automation ועוד  ועוד.

ניתן לקרוא פירוט התוספות ועוד תוספות רבות אחרות בלינק הבא:
http://azure.microsoft.com/blog/2015/04/28/azure-preview-portal-improvements-april-update/

אבל על כך - אם יהיה זמן בעתיד.

פיני

2015-04-05

Azure New Portal: SQL Azure View

שלום לכולם וחג שמח
היום קצת אספר על הפורטל החדש של Azure.
הפורטל החדש בתחילתו היה מקור לא אכזב של ייאוש ומחשבות, של מה הם חשבו לעצמם?

כיום המצב כבר הרבה יותר טוב - עד כדי כך שהרבה פעולות אני עושה מהפורטל החדש ונהנה.
הוא מהיר יותר, נוח יותר וגם מראה על הרבה מחשבה שהושקעה בו.

הפורטל החדש עובר שידרוג כל שבועיים, ורואים את השיפור מגירסה לגירסה.

מצד שני עדיין אני מחכה לאפשרות לעדכן גודל בסיס נתונים, לפתוח 2 בליידים של בסיסי נתונים בו זמנית, ועוד מספר נושאים שאי אפשר מהפורטל החדש.

אז אתחיל בסקירת הפיתוח של עמוד הבית.
עמוד הבית שלי מלא קיצורי דרך - לינק על קיצור הדרך מביא ישר לאן שאני רוצה וחוסך זמן כל כניסה וכל פעילות, מצד שני כרגע אין אפשרות שיהיו 2 בליידים פתוחים וזה קצת חבל.
אבל מעיקרון מסך קיצורי דרך הוא מצויין.
הנה דוגמא של מסספר שירותים עם קיצורי דרך כמו בסיסי נתונים סטורג' ומכונות וירטואליות:




כמובן אפשר להוסיף עוד הרבה כפתורים.
עכשיו לעיקר - לחצתי על בסיס נתונים אחד והגעתי למסך שבו יש פירוט על בסיס הנתונים.
עד היום היו 3 מסכי מוניטור נפרדים שניטרו רק 3 דברים:
חיבורים
סטורג'
DTU

כמתואר בצילום הבא:



 אולם מעכשיו, הוסיפו לינק קטן בכל מסך כזה:


בלחיצה עליו נפתח בלייד - יאללה איזו מילה - בלייד.
ובו אפשרות לבחור גרף או עמודות, טווח זמן  ומה המטריקה הרצוייה.


כמובן הוסיפו פה עוד מטריקות שלא היו קודם לכן
לאחר הוספת המטריקות הנוספות המסך נראה כך:


אני בחרתי להוסיף למטריקה של ה DTU את המטריקות המרכיבות את ה DTU שזה CPU, DATAIO,LOGIO וחסר לי כמובן Memory, בתיקווה שזה ייתווסף מתי שהוא.
בכל מקרה כשהכל על גרף אחד רואים הלימה ברורה בין המטריקות.

לא זו בלבד שניתן לשפר גרפים אפשר להוסיף עוד גרפים למסך עצמו: לוחצים למעלה בבלייד על ה שלש נקודות ואז על Customize:



מכאן נפתח מסך הניהול של הבלייד - אפםשר לעשות הכל - למחוק מסכים, להוסיף, להעלות, להוריד, לקבוע גודל, לשנות שם ומה לא. המסך נהיה אפרפר, ומפה ניתן לעשות הכל, כמו שאמרתי


פה אני לוחץ על ה שלש נקודות ועולות לי אפשרויות לקבוע גודל מסך.


אני בוחר על Clone ומכפיל את המסך של המטריקות שהוספתי למעלה.
לאחר מכן פותח אותו לעריכה ונותן לו זמן של שבוע אחורה.



כמובן הפעילות כבר נהיית הרבה יותר נוחה ומלאה.
נקווה לתפקוד יפה, מהיר ומועיל בהמשך.

נסו ותהנו
חג שמח
פיני

2015-03-11

SQL Azure V12 S3 tier

שלום לכולם
להזכירכם החל מ 1.4.15 מחירי S3 tier - יקפצו פי 2 מ 75 דולר לחודש ל 150 דולר לחודש.
סכום גבוה מאד.
נקווה שהחברים ייתעשתו ולא יעלו המחיר.

מצד שני יש ליזכור שהמחירים של S2 and S1 ירדו לא מזמן למשל S2 ירד מ 100 דולר לחודש ל 75 דולר בחודש.

בכל מקרה שימו לב כדי שהחיוב החודשי לא יקפוץ לפתע פתאם.

http://azure.microsoft.com/en-us/pricing/details/sql-database/

פיני

2015-03-04

Audit Log in Azure New Portal

שלום לכולם
ביומיים האחרונים פורסמו מספר שיפורים בפורטל החדש, הדבר המועיל ביותר כרגע נראה כמו מסך AuditLog חדש.

לפני כן אציין שביימים החארונים ישנן מספר בעיות ב SQL Azure שמדווחות ומטופלות, התדירות שלהן גבהוה כפי שאני לא זוכר שנים.
יש לציין שלא מדובר בבעיות נגישות.

Audit Log יכיל בפירוט רב כמעט כל מה שקורא בחשבון שלך החל מהתקנות , תיקונים התרעות וכדומה.
כיצד מגיעים:
ניגשים לכפתור Browse
ומשם לוחצים על הלוג
יש סיכום יפה






לחיצה על השורה מובילה לדף פירוט



ולחיצה על השורה מובילה לדף פירוט נוסף



ערב טוב

2015-02-25

Dynamic Data Masking on SQL Azure

שלום לכולם

בלוג יסודי של גרי רשף בנושא 
Dynamic Data Masking

גרי כדרכו ירד לפרטים הקטנים.


http://blogs.microsoft.co.il/gerireshef/2015/02/25/dynamic-data-masking/

2015-02-19

Geo-Replications Types in SQL Azure

שלום לכולם וחורף נעים
והיום דווקא לא על V12...
היום על DR.
ישנן 2 אפשרויות לרפלק את בסיסי הנתונים שלנו עבור DR:

  • Standard Geo-replication
  • Active Geo-replication
לפני שאסביר בקצרה על ההבדלים - יש לשים לב שבכל רגע נתון אפשר לעצור רפליקציה ולשחרר את בסיס הנתונים המשני ובכך לאפשר  Fail Over.

ההבדלים בין אפשרויות אלו מתחלקים לכמה נושאים והנה תקציר קצר שלהם:

Standard Geo-replication Active Geo-replication
  • Not Readable
  •  Readable
  • Azure choose the target location
  • Any location you can choose
  • Only 1 replication
  • Up to 4 replications
  • Fail Over rules by MSFT
  • Manually failing over a database
  • 75% of DB cost
  • Full DB Cost

מספר נקודות להבהרה:
  • אי אפשר לבדוק בצורה אמיתית fail over כי בזמן הבדיקה בסיס הנתונים של הייצור - חשוף ללא dr. כי בזמן הניתוק יש בעיה.
  • הרפליקציה היא א-סינכורנית.
  • הפסקת רפליקציה יכולה להתבצע מהמאסטר או מהרפליקות - אם היא מתבצעת מהרפליקות היא מתבצעת מיידית כלומר ייתכן מידע שיילך לאיבוד. אם היא מהמאסטר אפשר להחליט אם ייכלו לאיבוד טרנקציות.
  • שלא כמו AO שם השרת ברפליקה לא יכול להיות זהה - ולכן במקרה של fail over חייבים לשנות קונפיגורציה.


הנה לינקים קצרים בנושא :

כאשר בלינק הזה יש לפתוח את ההרחבות הבאות:



2015-02-12

How to Upgrade to SQL Azure V12

שלום לכולם
בימים אלו אנו עסוקים בetoro בהעלות גירסה גדולות ולא תמיד יש זמן לכתוב פוסטים - למרות שבעבודה היום-יומית אנו משתמשים ונהנים - או לא מהמוצר עצמו.

כמו שהסברתי לפני זמן מה, המוצר המחודש מעולה מבחינת ביצועים בגירסת ה פרמיום שלו, יש לו התאמה ל sql server כמעט בצורה מלאה,
partitioning,compression, עובדים גם בגירסת ה standard ולמי שלא עבד עם גרסות SQL SERVER EE זה שידרוג מעולה,
גרי רשף ידידינו בדק delay durability וזה עובד ושיפר ב 20% למרות שבשרתים מקומיים היה שיפור טוב יותר.
והכי חשוב כרגע באירופה זה כבר GA, כלומר ניתן להשתמש עם תמיכה.
אז איך משדרגים?
ראשית נכנסים לפורטל החדש - Portal.azure.com
ולוחצים בסיס נתונים קיים.

למי שלא יודע מיקרוסופט בפורטל החדש עובדת על מושג שנקרא blade כלומר חלקי מסך שנפתחים ונסגרים - יש עוד הרבה עבודה עד שזה יהיה שמיש לגמרי.
כאשר אתה עומד על בסיס נתונים קיים שאינו בגירסה v12, ואתה רוצה לשדרג - לוחצים על התא Proprties.

נפתח blade נוסף:


וכאן לוחצים על המקום המסומן... נפתח... כן כמובן blade נוסף:

ופה סוף סוף יש את הכפתור המאפשר שידרוג.
לוחצים ושוב נפתח blade נוסף:

הרבה מלל - מה כתוב פה? בעיקר שזה לוקח זמן - סך הכל הם מעבירים לrak-ים אחרים - בלי down time.
וכמובן מדברים על התימחור...

יש מצב שהוא יגיד לך פה שאי אפשר לעשות upgrade כמו במקרה שיש לו רפליקה:

ואז צריך לנתק - לשדרג - ולעשות מחדש רפליקציה.

ואז סוף סוף נפתח blade נוסף שאומר שהתהליך רץ:

ולבסוף זה עובר:

וזהו אפשר להתחיל להתפרע....

בקיצור אם יש למישהו בעיה מוזמן לשאול אותי.
נסו ותהנו.
פיני

2015-01-07

Schema Compare in Visual Studio: SSDT project vs SQL Azure

Hi All
And today  a short post from my friend  Yitzchak Wahnon (@YitzWahnon).
He was asked to deploy a DB into SQL Azure, it was DB that already exists their, and i asked him to deploy the changes, and here is What went through:

"I was having a problem doing schema compare in SSDT in Visual Studio against a SQL Azure DB.
Visual studio threw an unclear error.

In the end with stackoverflow I finally found a hint to the problem:
You SQL Database Azure connection will timeout if you exceed your Database Throughput Unit (DTS) limit. This can easily happen if you are using the Basic Service Tier of the SQL Database on Azure.
The Basic service tier is capped at 5 Database Throughput Units (5 DTUs), so if you have a lot of comparisons, it may exceed the threshold. Try upgrading to Standard service tier of SQL Database, (which has a threshold limit of 10 DTUs), and see if the problem goes away.

In the end this was the problem, originally for this project we had a basic level 5 DTU server for Dev environment. This is a system that has very low performance needs.
I changed the scale to Standard - 10 DTU and the schema compared worked.

In short it looks like Basic 5 DTU is almost worthless in a business environment.
I hope this saves you time in the future.



Yitzchak
--------------------------------------------------
Yitzchak Wahnon | DBA | eToro

2014-12-29

So Who are you SQL Azure V12??

שלום רב והיום קצת על הגירסה החדשה הידועה בשם V12.
אז על מה מדובר?
מה כל כך מיוחד בה?
מה היא עושה?
מה היא לא עושה?
כיצד עובדים עימה?

נתחיל מההתחלה - עד היום כשרצית לעבוד ב SQL Azure הייתה גרסה אחת בלבד. היו Tiers שונים, אבל גירסה אחת,
כולם היום עובדים על אותה גירסה.
גם כאשר פתחו ב Preview דברים חדשים זה היה בתוך הגירסה הרגילה.

ואז מיקרוסופט שיחררו הודעה על גירסה חדשה:
Preview Available for Latest Version of Azure SQL Database

כאשר הנקודות המרכזיות שהוזכרו הן:
Easier management of large databases 
Support for key programmability functions
Up to 100x performance improvements
Improved monitoring and troubleshooting
New S3 performance level

כך סוכמה גירסה זו:
I am incredibly excited for you to try this preview which will help you more easily build or migrate more robust SQL-based applications on Azure while gaining the near-zero administration benefits of database-as-a-service.

כך התחלתי לבדוק, לבחון ולראות מה יש פה?
ראשית, הופתעתי שיש פה version@@ חדש לחלוטין, ולא עובדים על גירסה קיימת.
שנית אכן הביצועים מדהימים בגירסאות הpremium, דברים גדולים וכבדים רצים הרבה יותר מהר ממה שהיה קודם, ללא השוואה בכלל.
ושלישית t-sql כמעט מלא - לא ביקשנו יותר. המון דברים שלא נתמכו קודם ומנעו מיגרציה מהירה, כרגע נתמכים, select into, טבלאות בלי ci ועוד ועוד.

ומכאן נרחיב טיפה יותר.

ראישת כדי ליצור בסיס נתונים בגירסה v12
ניגשים לפורטל החדש ולוחצים על + new SQL Database
ובוחרים Source שמותאם ל v12
כלומר אתה אומר לפלטפורמה - שאת השרת החדש שנוצר יש לשייך למקור ששיך ל v12.
ומכאן הכל כרגיל, יוצרים בסיס נתונים, בוחרים לו tier, נותנים הרשאות, ועושים deploy.



בסיסי נתונים v12 הם ברמת השרת - כלומר אתה יוצר שרת v12 וכל בסיסי הנתונים בתוכו הם בוורסיה החדשה, כאן רואים ברשימת השרתים בפורטל החדש שיש שרתים שהם v12:



וגם כשמתחברים מ SSMS רואים שונים בוורסיה, למעלה שרת sql azure גירסה קודמת, ובשני - גירסה חדשה.



שימו לב שכיום כבר אפשר לבחור שם לשרת ולא לקבל סתם מספרים בלי משמעות.

ועכשיו לדברים שבדקתי:
Premium - שופרו ביצעוים ברמה מאד גבוהה, הוא מקבל Load מאד גבוה כשקודם היה מאט מאד מהר - כיוון שהלוגים היו מגיבים לאט - בגירסה החדשה הלוגים מאד מהירים, החיסרון בזה הוא כמובן שזה רק ב premium וזה יקר החל מ 465 דולר לחודש עבור בסיס נתונים אחד. אני מצפה שישפרו ביצועים גם ב standard.
Standard - הוסיפו tier נוסף - S3 שאמור לעבוד בקצבים יותר טובים - בבדיקות שלי עדיין הוא מאד איטי ב load גבוה, הוא טוב מאד כאשר הכמות הנכתבת ללוג לא כזו גדולה.
T-sql  - יש סוף סוף כמעט הכל בדקתי הרבה דברים שלא נתמכו קודם - וכרגע נתמכים כמו select into, SEQUENCE, ועוד דברים רבים - עדיין כמובן אי אפשר לדבר בין בסיסי נתונים ואין ג'ובים - אבל ניתן לפתרון דרך automation, כמו שכתבתי בעבר.
compression - יש כבר זמן רב ועובד מעולה.
partitioj - טרם בדקתי אבדוק בקרוב.
EX events - טרם בדקתי אבדוק בקרוב.


לסיכום גירסה בשלה וטובה מאד מאפשר עבודה כמעט מלאה - ובחיבור עם HA שהם נותנים דברים עובדים מעולה.
אם ישפרו ביצועים של standard או יורידו מחירים זה יהיה בהחלט מוצר אטרקטיבי.

כמו כן לנו כישראלים יש פריבילגיה לקבל support מקומי - וזה יתרון מאד גדול..
וזהו - עד כאן להערב

להתראות פיני