Auto Scaling in ‘etoro’ with Azure

‘etoro’  has some production services on the MSFT cloud- Azure. One of those services is some logs written from Client side. It’s written into service that write it to Q in Azure and then Service from Azure read the Q and insert the data into DB.

From time to time we get picks in the messages – this load cannot handled well with  the service calling from the Q and we need to increase the number of readers from the Q.

So we configured the instances to be scale by schedule.

It means that during week day we will have 4 cores – and during night or weekends we will have only 1 core. As you can see in the picture the auto change in the configuration.

 

 

What is really amazing is that we can do it by targets CPU level, Or by numbers of messages in the Q.

It also help in reducing the costs.

This is really easy to configure, very friendly and very important to understand in the world of cloud.

Pini

Problems working with SQL Azure

שלום לכולם
שנה חדשה וזה זמן לסכם 3 שנות עבודה עם SQL Azure.
אז כן - אני נהנה לעבוד עם מוצר זה הוא חוסך המון כאבי ראש אולם הוא מוגבל, בפוסט זה אציין מספר מגבלות שאם הן יתוקנו (וכן אני מבין את הקושי בתיקונים - אולם נקודות אלו מהוות מחסום כניסה)

1. מגבלת מקום של 150 GB -  זו בעיה לארגונים גדולים להיכנס כאשר יש מגבלת גודל, אם היה אפשר להגדיל בסיסי נתונים הדבר היה מקל על כניסה של ארגונים ל SQL Azure.
2. קישור בין שני בסיסי נתונים באותו שרת - זו בעיה מהותית של ארכיטקטורה של תוכנה, אם וכאשר יש צורך לעיתים ליצור 2 בסיסי נתונים כיום אפשרות התקשורת ביניהם - גם אם הם באותו שרת - היא רק דרך האפליקציה - לא שזה רע כל כך אולם המון פעמים זה מסרבל את תצורת העבודה.
3. הרצה של תהליכים ארוכים - לעיתים יש צורך להריץ תהליך עידכון ארוך או בניה של אינדקס גדול, בעולם הרגיל אנו יוצרים job שרץ בתוך השרת ונתנים לו לרוץ כמה שעות שהוא רוצה - פה לעומת זאת, אין agent ואי אפשר להריץ כלום מתוך השרת, וריצות ארוכות נחתכות על ידי ה resource governer והנה אנו שוב תקועים בעובדה ומחפשים work around.
4. t-sql - ישנם רבים מידי סינטקסים שלא נתמכים, הדבר מפריע במיוחד ל DBA's רגישים שלא אוהבים שנוגעים להם בפינה האהובה שלהם.
5. אי אפשר לאתחל את הסרביס או לעשות לו פעולות דרסטיות - לעיתים יש צורך בפעולה קשה ואגרסיבית, ואציג פה דוגמא קטנה שחויתי לאחרונה. יש לי כלי שמנטר ומתריע כאשר בסיס הנתונים מגיע ל85% מהגודל וממילא אני צריך לבצע פעולת Scale ולהגדיל את הגודל. בפורטל אפילו יש התרעה יפה שמציגה את המצב.

משום מה התעלמתי מכל ההתרעות והגעתי לקצה כמות השימוש - או אז בסיס הנתונים הפך להיות סוג של read only, מה שצריך להתבצע על ידי היה מיד להגדיל את הגודל אולם ההגדלה לא תפסה ולא יכלתי להגדיל כלום. כמובן שבדיוק אז עלתה הבעיה על ידיד הלקוחות שרצו פתרון מיידי - אז מחקתי 2 אינדקסים גדולים ועוד טבלה בינונית שלא הייתי חייב אותה, גם זה לא עזר כי ה rebuid מתבצע אוטמטית על ידי מנגנון ה azure אולם לא על ידי וכך המקום לא התפנה. מיד חשבתי על רעיון יפה אחר - עשיתי rename לבסיס הנתנוים ויצרתי בסיס נתונים חדש עם סכמה זהה, אולם הוא היה ריק, גם זה לא עזר למרות שהגודל היה רשום 0 - עדיין אי אפשר היה לכתוב לבסיס הנתונים - אילו המכונה ייתה בשליטתי מן הסתם זה היה נתר תוך דקה אולם פה לקח למערכת 3-5 שעות לתפוס את השינוי ולא היה כלום שיכולתי לעשות. לכן - אסור לטעות .

6. מחיר - יללה תורידו עוד המחרים למרות ההורדות הרבות אנו רוצים עוד הורדות כדי שזה יהווה תחות ראויה עם סטורג'ים מקומיים או עם vm's.

מעבר לבעיות אלו באמת העבודה היא כה קלה ונוחה ניתן לגשת מפורטל וובי, ניתן לעבוד בתצורות שונות ואין בעיות של חומרה ותוכנה ורשיונות.

כמובן כשרציתי לכתוב פוסט זה למחרת ראיתי את Brent ozar כותב בלוג על נושא דומה לאלו ומעלה שאלון על השינויים שהיינו רוצים לבצע

ניתן לקרוא עליו פה:

http://www.brentozar.com/archive/2013/12/how-would-you-change-windows-azure-sql-database/

טוב לא נתאר שוב את כל הטוב מההתחלה - רק נאחל שנה טובה ומעוננת ומוזמנים ליין בבלוגים ההיסטוריים והחדשים...

בהצלחה

פיני